OpenAI desarrolló GPT-Red, un avanzado modelo de inteligencia artificial diseñado para poner a prueba la seguridad de sus propios sistemas. Su capacidad para vulnerar las defensas de otros modelos es tan elevada que la compañía decidió mantenerlo aislado para evitar que esta tecnología pueda ser utilizada con fines maliciosos.
La empresa explicó que, de manera interna, ha entrenado varios modelos para respaldar el trabajo de su red team o equipo rojo, un grupo especializado en simular ciberataques realistas con el fin de detectar vulnerabilidades y fortalecer las medidas de protección antes de que puedan ser explotadas por ciberdelincuentes.
Entre todos ellos, GPT-Red se ha convertido en el modelo más avanzado. Según OpenAI, fue entrenado con “una cantidad de capacidad de cómputo sin precedentes dedicada exclusivamente a mejorar la seguridad”, tal como detalló la compañía en una publicación de su blog.
Para lograrlo, la empresa recurrió al aprendizaje por refuerzo basado en el autojuego (self-play). Durante este proceso, GPT-Red competía contra otros modelos intentando introducir inyecciones de código malicioso mediante instrucciones diseñadas para alterar su comportamiento. Cada vez que conseguía provocar un fallo válido obtenía una recompensa, mientras que los modelos defensores eran premiados cuando resistían el ataque y cumplían correctamente con su tarea.
Este sistema de entrenamiento genera una evolución constante. A medida que los modelos defensivos se vuelven más resistentes, GPT-Red necesita desarrollar técnicas de ataque cada vez más sofisticadas y variadas para superar sus barreras. Como resultado, OpenAI asegura que el modelo ha alcanzado un nivel de eficacia capaz de comprometer prácticamente todos los sistemas a los que se enfrenta, tanto en entornos internos como en modelos ya desplegados para los usuarios.
La compañía también reveló que GPT-Red ha sido utilizado para fortalecer la seguridad de sus modelos de producción desde GPT-5.3, incluido GPT-5.6 Sol. Durante la presentación de esta última versión, OpenAI destacó que incorpora el sistema de protección más sólido desarrollado hasta ahora, gracias al refuerzo de las defensas frente a actividades de alto riesgo, solicitudes relacionadas con ciberseguridad y posibles intentos reiterados de uso indebido.
Precisamente por el potencial ofensivo que ha adquirido, OpenAI mantiene GPT-Red completamente separado del resto de sus modelos. El objetivo es impedir que las capacidades con las que fue entrenado puedan caer en manos de actores maliciosos y ser utilizadas para vulnerar sistemas reales.
Además, la empresa adelantó que seguirá incrementando la capacidad de procesamiento, ampliará el volumen de datos de entrenamiento y perfeccionará sus algoritmos para desarrollar futuras versiones de GPT-Red que superen el rendimiento y las capacidades del modelo actual.
*Con información de Europa Press