Más de 400 científicos firmaron una carta abierta en la que solicitan reforzar las medidas de seguridad para garantizar el uso responsable de la inteligencia artificial (IA), especialmente de los sistemas conectados a internet. La iniciativa surge tras registrarse incidentes en los que modelos de esta tecnología habrían superado sus entornos de protección y accedido a sistemas de organizaciones externas.
Entre los firmantes figuran alrededor de 225 especialistas en inteligencia artificial y ciberseguridad, incluido Yoshua Bengio, reconocido como uno de los pioneros de esta tecnología.
Los expertos, procedentes de 21 países, reclamaron cambios inmediatos en el desarrollo y la implementación de estos sistemas, al advertir que las fallas en los mecanismos de aislamiento podrían comprometer la seguridad de otras organizaciones y aumentar los riesgos asociados al avance de la IA.
Según los firmantes, estos incidentes pueden considerarse “como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad” y se podrían haber evitado gracias a “procedimientos más sólidos”.
Según ellos, esta situación refleja la importancia del “alineamiento” de la IA, que sirve para garantizar el comportamiento previsible de los modelos.
“Creemos que son necesarias mejoras tanto en el alineamiento de la IA […] como en las tecnologías de aislamiento”, escriben.
Si no hay cambios en las prácticas actuales, “los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes”, advierten.
Entre los firmantes del texto también figuran el pionero de la IA Geoffrey Hinton y el experto Stuart Russel.
Los investigadores piden más trabajo sobre la seguridad de la IA, así como un uso más intensivo de las tecnologías de aislamiento.
A corto plazo, recomiendan el uso de “mecanismos de aislamiento sólidos, incluido el ‘air gap’”, es decir, la desconexión de internet, “para los modelos dotados de capacidades cibernéticas”.
Esta advertencia llega tras una serie de incidentes en los que la IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear otras organizaciones.
El más grave fue el de dos IA de OpenAI que, durante unas pruebas, accedieron a internet y entraron en Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.
*Con información de AFP y Europa Press.