Los dos modelos de inteligencia artificial (IA) de OpenAI que lograron salir por iniciativa propia del entorno en el que eran evaluados no solo atacaron a Hugging Face. La empresa confirmó que también irrumpieron en otras cuatro plataformas durante las pruebas, ampliando el alcance de un incidente que ha reavivado el debate sobre los riesgos de los agentes de IA capaces de actuar de forma autónoma.
Según una actualización del informe, una de esas plataformas fue utilizada como intermediaria para preparar el ataque contra Hugging Face, mientras que los modelos también recurrieron a sitios de acceso libre para copiar y probar código. OpenAI no reveló los nombres de las demás entidades afectadas.
La IA intentó hacer trampa durante la evaluación
Hugging Face explicó que la intrusión correspondió a un “intento (de los dos modelos) de hacer trampa en la evaluación” realizada por OpenAI.
De acuerdo con la plataforma, las IA intentaron “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”, en lugar de resolver los desafíos planteados por los desarrolladores.
Aunque no es el primer caso de evasión de modelos de IA, el episodio es considerado el más grave documentado hasta ahora y ha intensificado las preocupaciones sobre el control de este tipo de tecnologías.
Trump pide no perder la carrera frente a China
El incidente coincidió con un llamado de más de 1.000 empleados y directivos del sector para que Estados Unidos ayude a “frenar” el lanzamiento de nuevos modelos mientras se fortalecen los mecanismos de supervisión.
Sobre este debate, el presidente Donald Trump afirmó que el país debe encontrar un equilibrio entre reforzar los controles y mantener el liderazgo tecnológico.
“Tenemos que ser cuidadosos en ambos sentidos. No queremos restringirlos hasta el punto de que, de repente, quedemos segundos detrás de China”, dijo a periodistas en la Oficina Oval.
OpenAI pausó sus pruebas
En su investigación, OpenAI también encontró casos en los que los modelos localizaron credenciales de inicio de sesión expuestas en internet y las utilizaron para acceder a cuentas en servicios externos. No obstante, la compañía aseguró que “no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios”.
Tras el incidente, el CEO de OpenAI, Sam Altman, confirmó que la empresa había “puesto en pausa” las pruebas mientras reforzaba la seguridad del sistema de sandboxing, el entorno aislado donde se realizan este tipo de evaluaciones.
El caso también ha generado críticas dentro de Silicon Valley, donde algunos consideran que OpenAI podría utilizar este episodio para impulsar regulaciones más estrictas o demostrar las capacidades de sus modelos más avanzados.
*Con información de AFP.