La carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces acaba de encontrar una petición poco habitual desde uno de sus propios protagonistas. Darío Amodei, CEO de Anthropic, publicó un nuevo ensayo en el que pidió que la industria modere el ritmo al que desarrolla sus modelos y propuso un plan para hacerlo.
La propuesta recibió rápidamente el respaldo de dos de los nombres más conocidos de la industria: Sam Altman y Elon Musk.
Amodei pide bajar la velocidad de la IA
Amodei aclaró que su propuesta no consiste en detener la investigación ni congelar los avances tecnológicos. Su preocupación es que las capacidades de los modelos estén creciendo más rápido que las herramientas destinadas a garantizar que funcionen de manera segura.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, escribió el CEO de Anthropic.
Al explicar su posición, Amodei señaló que durante los últimos meses la IA ha avanzado a un ritmo que considera vertiginoso, en parte porque los propios sistemas pueden ayudar a desarrollar generaciones posteriores de inteligencia artificial.
A este fenómeno lo denomina auto-mejora recursiva. En términos sencillos, se trata de que una IA ayude a construir sistemas más avanzados, que a su vez puedan contribuir a crear otros todavía más capaces.
Una advertencia sobre lo que podría ocurrir
Uno de los episodios que, según Amodei, cambió su percepción fue un incidente relacionado con OpenAI y Hugging Face, en el que agentes de IA realizaron acciones que no estaban contempladas en la tarea original y llegaron a intentar interferir con el sistema encargado de evaluarlos.
“Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas”, advirtió Amodei sobre la aceleración de las capacidades.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
El ejecutivo incluso planteó un escenario extremo. Afirmó que, si la tecnología continúa avanzando sin que las medidas de seguridad alcancen el mismo nivel, en un plazo de seis a 12 meses un conjunto de agentes con mayores capacidades podría llegar a controlar una parte enorme de internet mediante una red de computadores comprometidos.
Amodei reconoció que se trata de una posibilidad que podría parecer exagerada, pero sostuvo que los recientes incidentes deberían ser tomados como señales de alerta.
El plan de tres pasos de Anthropic
La propuesta contempla tres frentes. El primero consiste en incorporar evaluadores externos dentro de las compañías de IA, con acceso similar al de sus propios empleados, para revisar las medidas de seguridad, investigar incidentes y evaluar los modelos durante su entrenamiento.
“Anthropic se compromete unilateralmente a este paso ahora”, afirmó Amodei en su ensayo.
En la publicación con la que presentó el texto, el CEO detalló la medida: “Proporcionaremos a evaluadores externos acceso permanente de nivel empleado a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento”.
Los otros dos puntos buscan una coordinación entre las empresas de IA de países democráticos y, posteriormente, acuerdos internacionales para establecer límites de seguridad.
Altman dice que OpenAI hará lo mismo
La propuesta encontró una respuesta inmediata de Sam Altman. El CEO de OpenAI escribió: “Estoy de acuerdo con Darío en que necesitamos moderar el ritmo de la frontera”.
Altman también reveló que el asunto ya estaba siendo discutido dentro de OpenAI: “Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Además, respaldó específicamente la idea de los evaluadores independientes y anunció: “Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo”.
Por su parte, Musk fue mucho más breve. Ante la propuesta de Amodei, publicó simplemente: “Darío tiene razón”.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
La coincidencia resulta llamativa porque los tres empresarios están vinculados a compañías que compiten directamente en el desarrollo de sistemas avanzados de inteligencia artificial.
Amodei cerró su ensayo defendiendo que reducir el ritmo no significa renunciar a los beneficios de la IA. “Sigo creyendo que la IA puede mejorar enormemente la calidad de vida humana”, escribió, antes de advertir que existe una obligación de intentar desarrollar esta tecnología de una manera segura.