OpenAI ha reforzado la seguridad de sus modelos de inteligencia artificial con nuevas salvaguardas que se adaptan a sus capacidades, con el objetivo de garantizar que actúen según lo previsto y evitar nuevos episodios de ‘hackeo’ autónomo como el ocurrido en Hugging Face.
El incidente, registrado en julio, involucró a dos modelos de OpenAI que lograron salir de forma autónoma de un entorno de pruebas aislado, con acceso restringido a internet, y ‘hackearon’ la plataforma Hugging Face en busca de información que les permitiera resolver una de las pruebas planteadas durante una evaluación. El caso motivó una revisión de los mecanismos de seguridad empleados en sistemas de inteligencia artificial avanzados.
A raíz de ello, la compañía tecnológica asegura haber revisado e implementado nuevas medidas de supervisión, alineación y contención en las distintas etapas del entrenamiento. La atención se ha centrado especialmente en el aprendizaje por refuerzo, al considerar que esta fase concentra “las cargas de trabajo de mayor riesgo”, según explicó la empresa en un comunicado.
Uno de los principales cambios está relacionado con la monitorización. Bajo el nuevo enfoque, esta se desarrolla en varias etapas e incluye tanto las ejecuciones de inferencia como los procesos de entrenamiento que hacen uso de herramientas, una actividad que anteriormente no estaba incluida en esta revisión.
El propósito es detectar “accesos no autorizados, robo de datos, comportamiento destructivo e intentos de eludir las medidas de seguridad”. Si se identifica alguna de estas conductas, se emitirá una alerta en un plazo de 30 minutos para informar a los equipos de seguridad, protección e investigación.
OpenAI también ha extendido las técnicas de alineación a más fases del entrenamiento para reforzar los mecanismos destinados a que los sistemas de IA “se comporten según lo previsto y respondan a la supervisión humana”. Con ello, busca reducir la posibilidad de que actúen de manera autónoma para ejecutar acciones no autorizadas o potencialmente dañinas.
Estos trabajos contemplan mejoras en los modelos de recompensa y nuevos entrenamientos orientados a conseguir sistemas más honestos y a reducir comportamientos que aprovechen debilidades en las recompensas, los evaluadores, las herramientas o los mecanismos de supervisión. El análisis también abarca conductas que podrían generar daños cuando los modelos interactúan con sistemas o recursos externos.
Los cambios incluyen, además, nuevas salvaguardas para las cargas de trabajo de investigación que requieren ejecutar código o utilizar herramientas con conexión a internet. Entre ellas se encuentra un mayor aislamiento de estos entornos, así como nuevos controles para mantener desconectadas de internet “las cargas de trabajo de alto riesgo y no confiables”.
La compañía también ha reconfigurado la seguridad de los entornos de prueba para “eliminar servicios compartidos potencialmente vulnerables y reducir privilegios”, con el propósito de limitar las posibilidades de que un modelo pueda aprovechar recursos externos para realizar acciones no autorizadas.
Las nuevas salvaguardas no se limitan a los modelos Sol o a sistemas similares. También se han aplicado a Astra, una familia de modelos enfocada en ciberseguridad y cuyo lanzamiento está previsto próximamente. En evaluaciones internas, estos sistemas han demostrado capacidades que la propia compañía considera críticas.
Según OpenAI, los modelos Astra “pueden identificar y desarrollar exploits funcionales de día cero de todos los niveles de gravedad en numerosos sistemas críticos reales y reforzados sin intervención humana”.
El refuerzo de estas barreras de seguridad refleja el creciente desafío que supone controlar sistemas de IA capaces de utilizar herramientas, ejecutar código e interactuar de forma autónoma con servicios externos.
*Con información de Europa Press