OpenAI ha decidido pausar las actividades internas de su modelo de inteligencia artificial (IA) en desarrollo, Astra, después de no poder descartar que cuente con “capacidades cibernéticas críticas”, de acuerdo con los estándares de seguridad establecidos por su propio marco de evaluación.
La compañía liderada por Sam Altman ha enfrentado recientemente varios desafíos relacionados con la ciberseguridad. OpenAI reconoció que algunos de sus modelos estuvieron involucrados en un acceso no autorizado a Hugging Face y también identificó un comportamiento descontrolado durante unas pruebas de ciberseguridad realizadas por el Instituto de Seguridad de la IA del Reino Unido (AISI). Otros sistemas de IA, como Claude, de Anthropic, y Meta AI, también han protagonizado incidentes similares.
En este contexto, OpenAI aseguró que continuará siendo transparente frente a los riesgos relacionados con la ciberseguridad y sus modelos, especialmente en un escenario que, según la compañía, “cambia rápidamente”. Esto se debe a que los sistemas de IA adquieren nuevas capacidades que podrían facilitar ataques informáticos a una “velocidad y escala sin precedentes”.
Como parte de esta estrategia, la compañía anunció la suspensión temporal de las actividades internas relacionadas con Astra, uno de sus modelos actualmente en desarrollo, luego de determinar que todavía no cumple con los estándares de seguridad establecidos por la propia empresa.
Según explicó OpenAI en un comunicado, las últimas evaluaciones internas de Astra muestran avances significativos en áreas como la programación mediante agentes y la ciberseguridad. Sin embargo, estos mismos progresos llevaron a los expertos de la compañía a concluir que todavía no pueden “descartar capacidades cibernéticas críticas” en el modelo.
Las conclusiones se basan en el Plan de Preparación de OpenAI, publicado en 2023 como una guía para identificar el avance de las capacidades de sus modelos y establecer las medidas que la compañía debe adoptar a medida que estos sistemas se vuelven más avanzados.
Dentro de este marco, los modelos más recientes, incluido GPT-5.6 Sol, fueron evaluados por sus capacidades de ciberseguridad de vanguardia y clasificados en el umbral “Alto”, por debajo del nivel “Crítico”. Astra, en cambio, habría superado ese nivel durante las evaluaciones internas.
De acuerdo con los criterios de OpenAI, un modelo que alcanza el umbral “Crítico” en ciberseguridad podría identificar y desarrollar exploits funcionales de día cero de distintos niveles de gravedad en numerosos sistemas críticos reales y reforzados, sin intervención humana. También tendría la capacidad de diseñar y ejecutar estrategias novedosas de extremo a extremo para realizar ciberataques contra objetivos protegidos.
A partir de las evaluaciones preliminares de Astra, OpenAI concluyó que el modelo presenta un rendimiento “suficientemente sólido” como para que actualmente no sea posible descartar un nivel de capacidad crítico. No obstante, la compañía aclaró que Astra todavía se encuentra en desarrollo y que “no participó en la explotación de Hugging Face”.
Aunque las actividades internas con el modelo fueron suspendidas, OpenAI aseguró que continuará trabajando en su desarrollo bajo condiciones de mayor control. Para ello, ha intensificado las pruebas de seguridad y establecido medidas más estrictas antes de avanzar en nuevas etapas de evaluación.
La compañía también está implementando un sistema de monitoreo universal destinado a “detectar acciones riesgosas y desajustes en todas las aplicaciones de Astra”. De esta manera, busca identificar posibles comportamientos problemáticos antes de que el modelo pueda ser utilizado en escenarios más amplios.
A estas medidas se suma la colaboración con organismos gubernamentales y organizaciones seleccionadas especializadas en seguridad de la IA. OpenAI también proporcionará controles de seguridad recomendados a sus socios externos de pruebas, con el objetivo de que puedan evaluar las capacidades del modelo bajo condiciones controladas y reducir los posibles riesgos asociados con sus avances en ciberseguridad.
*Con información de Europa Press