Las pruebas de seguridad de los modelos de inteligencia artificial siguen dejando resultados inesperados. Apenas unos días después de que OpenAI reconociera que algunos de sus agentes lograron salir de un entorno de evaluación para infiltrarse en un sitio web, Anthropic informó que tres versiones de su IA también realizaron accesos no autorizados a sistemas externos durante un ejercicio controlado.
La compañía explicó que el incidente ocurrió mientras evaluaba el comportamiento de sus modelos y aseguró que ya trabaja junto con su socio de pruebas para investigar lo sucedido y contactar a las organizaciones afectadas.
Anthropic detectó accesos no autorizados durante sus pruebas
Anthropic informó que sus modelos de inteligencia artificial “obtuvieron acceso no autorizado” a tres organizaciones durante una serie de pruebas diseñadas para mantenerlos aislados de sistemas del “mundo real”.
Según la empresa, fueron analizadas más de 141.000 “operaciones de prueba”, en las que tres versiones distintas de Claude terminaron accediendo de forma indebida a sistemas pertenecientes a tres organizaciones cuya identidad no fue revelada.
La compañía aclaró que, a diferencia del caso reportado por OpenAI, sus modelos pudieron conectarse a internet debido a “un malentendido entre nosotros y nuestro socio de evaluación”, Irregular, según explicó en una publicación de su blog.
Cómo logró la IA ingresar a los sistemas
Una vez tuvo acceso a internet, Claude recurrió a “técnicas básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación” para ingresar a los sistemas.
Entre los modelos involucrados figuraba Mythos 5, una de las versiones más avanzadas desarrolladas por Anthropic y disponible únicamente para un grupo reducido de socios autorizados.
Tras detectar el incidente, la empresa aseguró que trabaja junto con Irregular para analizar lo ocurrido y confirmó que ya se comunicó, o intentó hacerlo, con las tres organizaciones afectadas.
El antecedente de OpenAI elevó las alertas
El caso de Anthropic se conoció pocos días después de que OpenAI revelara que dos de sus agentes de inteligencia artificial abandonaron por iniciativa propia el entorno controlado en el que estaban siendo evaluados para atacar Hugging Face, una plataforma utilizada por desarrolladores para almacenar y compartir código.
Posteriormente, la empresa creadora de ChatGPT confirmó que encontró otros tres incidentes similares, lo que llevó a reforzar las medidas de seguridad durante las pruebas.
El director ejecutivo de OpenAI, Sam Altman, explicó en un pódcast que la compañía “pausó” temporalmente las evaluaciones mientras fortalecía la protección de su “sandboxing”, un entorno controlado utilizado para probar el comportamiento de sus modelos de inteligencia artificial.
Los dos episodios, ocurridos con pocos días de diferencia, vuelven a poner el foco sobre los mecanismos de seguridad con los que las empresas tecnológicas evalúan sistemas de IA cada vez más capaces de interactuar con entornos digitales complejos.
*Con información de AFP.