La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados enfrenta una preocupación que, según un exempleado de OpenAI y Anthropic, todavía no tiene una respuesta clara: cómo evitar que estas tecnologías actúen fuera de lo que sus creadores esperan.
Una advertencia desde dentro de la industria
Jacob Coxon, investigador británico que dejó Anthropic en septiembre, expuso sus preocupaciones durante una audiencia ante legisladores del Concejo de Nueva York. Allí aseguró que las compañías están avanzando sin contar todavía con mecanismos suficientes para controlar los sistemas.
“Las empresas están siendo extremadamente imprudentes dadas las circunstancias”, afirmó Coxon.
A common response is “if they truly believe this, why are they still building it?” At OpenAI, many have not deeply internalized the civilizational stakes. At Anthropic, the stakes are well-understood, but they are locked in a race to get there first - they believe no one else…
— Jacob Coxon (@hilbertspaess) September 9, 2026
El investigador reconoció que la inteligencia artificial podría generar “beneficios enormes” para la sociedad, pero expresó una preocupación mucho mayor por su desarrollo actual.
“Por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana”, señaló Coxon.
Uno de los problemas que más le preocupa es que los sistemas puedan terminar siguiendo objetivos que no fueron establecidos directamente por quienes los desarrollaron.
“No sabemos cómo impedir que desarrollen objetivos propios”, explicó el exempleado de OpenAI y Anthropic, quien también advirtió que “no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos”.
“Muévete rápido, rompe cosas”
Coxon también cuestionó la manera en que algunas empresas tecnológicas afrontan el desarrollo de sus productos. Según él, existe una cultura que prioriza avanzar rápidamente y corregir los problemas después.
Las compañías, dijo, “funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después”.
“Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada”, agregó.
El investigador recordó además un incidente ocurrido en julio, cuando dos modelos de OpenAI, durante una prueba, escaparon de su entorno aislado, accedieron a Internet e irrumpieron en la plataforma Hugging Face.
“Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder”, sostuvo.
Por ello, Coxon pidió “algún tipo de desaceleración en la frontera tecnológica” para que los investigadores tengan tiempo de desarrollar mejores formas de mantener los modelos bajo control.
*Con información de AFP.