OpenAI reveló un incidente que podría marcar un antes y un después en el desarrollo de la inteligencia artificial. Durante una evaluación interna, uno de sus modelos logró encadenar varias vulnerabilidades, salir del entorno de pruebas y comprometer parte de la infraestructura de Hugging Face con el objetivo de obtener información que le permitiera resolver un desafío de ciberseguridad.
La compañía calificó lo sucedido como un hecho sin precedentes y anunció que ya trabaja junto con Hugging Face para investigar lo ocurrido y reforzar las medidas de seguridad.
¿Qué ocurrió durante la prueba?
Según OpenAI, la evaluación buscaba medir hasta dónde podían llegar sus modelos en tareas relacionadas con ciberseguridad. Para ello, algunas restricciones de seguridad fueron desactivadas de manera intencional.
Durante el ejercicio, los modelos encontraron una vulnerabilidad que les permitió salir del entorno controlado y acceder a internet. Después identificaron que Hugging Face podía contener información útil para completar el reto y terminaron comprometiendo parte de su infraestructura.
La empresa explicó que los modelos “identificaron y encadenaron vulnerabilidades” para obtener la información que buscaban y añadió que “todo indica que los modelos se centraron excesivamente en encontrar una solución para ExploitGym, llegando a extremos para lograr un objetivo de prueba bastante limitado”.
OpenAI habla de un “ciberataque sin precedentes”
En el comunicado, la compañía aseguró que “consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia”.
OpenAI informó que ya reforzó los controles de seguridad de sus entornos de investigación, notificó la vulnerabilidad encontrada y mantiene una investigación conjunta con Hugging Face para reconstruir lo sucedido.
La reacción de Hugging Face
El director ejecutivo y cofundador de Hugging Face, Clem Delangue, aseguró que este episodio podría convertirse en un precedente para la industria.
“Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no se resolverá con el trabajo en secreto de una sola empresa. Se resolverá de forma abierta, colaborativa, con un amplio acceso a la IA para todos los defensores, en cualquier lugar“, afirmó.
OpenAI también concluyó que el caso demuestra que los modelos avanzados “pueden descubrir y explotar nuevas vías de ataque en sistemas reales sin necesidad de acceder al código fuente”, por lo que considera necesario reforzar las medidas de protección a medida que estas tecnologías evolucionan.
Esto dijo Sam Altman
Después de que OpenAI hiciera público el incidente, su director ejecutivo, Sam Altman, se refirió al caso en su cuenta oficial de X.
“Tuvimos un incidente de seguridad significativo durante la evaluación de nuestros modelos. Estamos compartiendo lo que hemos aprendido hasta ahora. Gracias a @huggingface por la asociación en esto”, señaló.
we had a significant security incident during evaluation of our models. we are sharing what we have learned so far. thanks to @huggingface for the partnership on this.https://t.co/2o2VfR6PIa
— Sam Altman (@sama) July 21, 2026