La sentencia de Jacob Coxon fue apocalíptica. El investigador de Anthropic y exempleado de OpenAI disparó las alarmas del mundo y produjo una ola de reacciones cuando hace unos días aseguró que quienes trabajaban allí tenían un miedo genuino de que la inteligencia artificial pudiera realmente destruir a la humanidad. Desde ahí, gobiernos, empresas y hasta el Vaticano han lanzado duras advertencias.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, aseguró Coxon en redes sociales. “Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”, agregó para alertar que existe hoy una “superinteligencia capaz de mejorarse a sí misma”. Y luego rematar con una sentencia: “Están jugando con nuestras vidas”.
No se trató de una voz en el desierto. Apenas horas después, Evan Hubinger, responsable de alineamiento en Anthropic, respondió dándole la razón: “De verdad creemos que la IA podría matar a todos los humanos. Personalmente, creo que la probabilidad es de más del 10 por ciento antes de que termine la década”. Añadió que Anthropic “aún no tiene un plan para resolver la alineación en superinteligencia y no está claramente encaminada a tenerlo”.
Pero la cifra no quedó solo en esa declaración aislada. Geoffrey Hinton, premio nobel y considerado uno de los padres de la inteligencia artificial moderna, respaldó la estimación en una entrevista con BBC Newsnight. Allí, dijo que un 10 por ciento de probabilidad de que la IA acabe con la humanidad “no parece una estimación descabellada”.
La escena no era nueva. El pasado 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo de 3.800 palabras titulado Debemos marcar el ritmo de la frontera, pidiendo a la industria desacelerar deliberadamente el desarrollo de modelos más potentes para darle tiempo a la seguridad y al alineamiento de ponerse al día.
Lo llamativo del texto de Amodei fue la reacción de sus rivales en el negocio. Sam Altman, de OpenAI, lo respaldó el mismo fin de semana en declaraciones en X; Elon Musk también se manifestó a favor y dijo que “Dario tiene razón”, y Demis Hassabis, de Google DeepMind, lo calificó como “el camino correcto”.
El mismo informe menciona dos casos que muestran los riesgos de la IA en estos momentos. Primero se cita un incidente de finales de julio: un enjambre de agentes de IA vinculados a OpenAI habría hackeado la infraestructura de Hugging Face durante pruebas internas. Este fue descrito como el primer ciberataque autónomo ejecutado por agentes de IA. En septiembre se supo que investigadores identificaron más de diez sitios adicionales que esos agentes usaron para comunicarse sin autorización, y que lograron “escapar” del aislamiento dejándose mensajes entre sí.
Con estos episodios, se ha levantado la pregunta de si en algún momento la IA va a ser “autorreplicante”, es decir, capaz de generar nueva inteligencia artificial y de mejorarse a sí misma, una de las grandes preocupaciones del mundo científico. El punto fue tratado por el nobel de economía Simon Johnson en una conversación con el profesor de la Universidad Externado, Gustavo Valdivieso, publicada por SEMANA.
“¿Cómo controlaremos lo que suceda cuando crucemos ese umbral? Todo lo demás es secundario respecto a eso”, se pregunta.
El uso que pueda hacer el hombre de la IA no es menos preocupante. Anthropic reveló que se han intentado usar sus sistemas de Claude para intentar redactar una propuesta para convertir el virus del chikungunya en más dañino. También se sabe de científicos que planearon experimentos con patógenos como el virus del Nilo Occidental, ortopoxvirus, péptidos de veneno, toxinas y gripe aviar.
El mismo informe de Anthropic documentó otro tipo de riesgo, esta vez con armamento convencional. La compañía identificó una célula de actores con base en el norte de Yemen, vinculada a los rebeldes hutíes, que utilizó Claude Code para desarrollar el software de guía, navegación y control de un misil balístico. La empresa logró frustrar el intento del grupo terrorista, pero la documentación del caso añadió un nuevo riesgo que hasta ahora no se tenía en cuenta.
Hay expertos que ven esos escenarios catastróficos como exagerados. “No estamos ante un escenario tipo Terminator, donde la IA se va a levantar un día a acabar con la humanidad... No hay pensamiento ni sentimiento continuo. El riesgo no proviene de la autonomía de la máquina, sino del mando humano”, dice José David Amorocho, cofundador y director de Inteligencia Artificial de Corpus AI.
“La manera en que lo describen [...] es que, al no depender del ser humano o de la organización para desarrollarse, lo que antes tardaba años tomará días, lo que tardaba días tomará horas y lo que tardaba horas tomará segundos”, agrega Juan David Gutiérrez, profesor de la Universidad de los Andes y experto en regulación de Inteligencia Artificial.
De Trump al papa
Estas declaraciones e informes sobre la expansión de la inteligencia artificial y sus riesgos provocaron una sacudida mundial en la opinión pública y abrieron una discusión sobre la necesidad de ponerle límites.
Donald Trump aseguró en Truth Social que todas estas advertencias son un “engaño” y comparó lo sucedido esta semana con las denuncias de interferencia electoral rusa durante su primera elección presidencial en 2016. El presidente apuntó directamente contra Amodei, a quien acusó de fingir ser “un angelito perfecto” por pedir una desaceleración de la industria, y sostuvo que su gobierno ya tiene “tremendo poder criminal y regulatorio” sobre las empresas de IA. Un día antes, a bordo del Air Force One, Trump dijo que el desarrollo de la IA “va a traer más bien que mal, por mucho”.
El Gobierno norteamericano es de la línea de reducir las barreras regulatorias. En una orden ejecutiva firmada en junio de 2026, su administración sostuvo que Estados Unidos debe mantener el liderazgo mundial en IA y afirmó que el país no debe “sofocar esta innovación con una regulación excesivamente gravosa”.
La misma orden establece un marco voluntario para que determinados desarrolladores compartan anticipadamente modelos considerados de frontera con el Gobierno para evaluar sus capacidades de ciberseguridad. Sin embargo, el documento especifica que no autoriza un sistema obligatorio de licencias o permisos gubernamentales para desarrollar, publicar o distribuir nuevos modelos de IA.
La respuesta en el Congreso de Estados Unidos se dividió entre los partidos. El senador independiente Bernie Sanders y el representante demócrata Greg Casar presentaron el 3 de septiembre la Ley de Prohibición de la Superinteligencia Artificial, que busca frenar el despliegue de una IA superinteligente y pausaría temporalmente los sistemas más avanzados hasta que una nueva agencia federal establezca estándares de seguridad. La iniciativa contempla penas de hasta 20 años de prisión. Sanders, al referirse a los recientes incidentes relacionados con agentes de IA, afirmó: “Ese incidente es una llamada de atención para el Congreso y el pueblo estadounidense; tenemos que actuar y actuar ahora, antes de que sea demasiado tarde”.
Por separado, un grupo bipartidista integrado por los senadores Amy Klobuchar, Maria Cantwell, Ted Cruz y John Thune trabaja en una legislación centrada en riesgos catastróficos vinculados a amenazas biológicas o nucleares. Y el 16 de septiembre, el Senado bloqueó un intento del republicano John Kennedy de aprobar por vía rápida un proyecto que habría exigido a los desarrolladores de modelos avanzados instalar mecanismos de apagado.
Mientras tanto, en China, Guo Jiakun, portavoz del Ministerio de Relaciones Exteriores del gobierno de Xi Jinping, afirmó el 15 de septiembre que, ante el rápido desarrollo de la tecnología, es necesario “calibrar la regulación y la gobernanza” y fortalecer las salvaguardas para evitar que la IA quede fuera de control.
China sostiene que debe existir un equilibrio entre desarrollo y seguridad. Guo aseguró que Pekín concede “igual importancia al desarrollo y a la seguridad” y defendió leyes, normas éticas y mecanismos de gobernanza para garantizar que la IA sea “segura, fiable y controlable”. Además, planteó que ningún país o empresa puede solucionar por sí solo los problemas de gobernanza de esta tecnología.
Sobre la apuesta del Gobierno chino de seguir avanzando con la inteligencia artificial, Johnson asegura que “China está apostando fuerte; se trata de una carrera tecnológica mundial con dos grandes protagonistas: Estados Unidos y China. El Reino Unido y otros países están intentando encontrar su lugar en este ámbito. El Gobierno británico tiene algunas buenas ideas, pero la situación es muy cambiante y no resulta fácil para nadie, tampoco en Estados Unidos ni en China”.
La Unión Europea tiene otra posición. Bruselas ya cuenta con la Ley de IA, un marco regulatorio que establece obligaciones según los riesgos asociados a esos sistemas. Pero las nuevas propuestas también se están enfocando en determinados usos y grupos de población.
La presidenta de la Comisión Europea, Ursula von der Leyen, anunció esta semana nuevas restricciones para proteger a los menores en internet. Las medidas contemplan limitar el acceso a determinados servicios digitales y establecer requisitos de los riesgos, entre ellos los chatbots de IA. Von der Leyen afirmó: “No tenemos que aceptar que las niñas tengan sus fotos utilizadas para imágenes sexualizadas generadas por IA”.
Otro peso pesado del mundo que se metió en el debate esta semana fue el rey Carlos III. El monarca se reunió este jueves en Escocia con representantes de la industria tecnológica y alertó sobre los “peligros existenciales” que rondan a la humanidad. “La inteligencia artificial ya está demostrando su enorme capacidad para mejorar y salvar vidas en el ámbito de las ciencias de la vida y la medicina, por ejemplo. Sin embargo, quienes han creado estas tecnologías advierten cada vez más que la IA corre el riesgo de desarrollar capacidades más oscuras, quizá incluso de quitar vidas”, advirtió.
El papa León XIV hizo un nuevo llamado al planeta y advirtió sobre el riesgo de que los humanos se acostumbren “a delegar en los algoritmos decisiones que corresponden solo a la conciencia humana”. Matizó reconociendo que el avance tecnológico “abre nuevas posibilidades, al derribar las barreras y las distancias”, pero alertó que las relaciones humanas “tienden a volverse cada vez menos personales, cada vez más virtuales”.
El pontífice ha sido un líder global en esta discusión. Justo eligió este tema para elaborar su primera encíclica, Magnifica humanitas, que fue publicada en mayo. En esa oportunidad pidió “desarmar” la tecnología para “impedirle el dominio sobre lo humano”. El jefe de la Iglesia católica respaldó una agenda de seis proyectos concretos para enfrentar el impacto de la IA en lo social, laboral y ambiental, pidiendo orientar el desarrollo tecnológico hacia el bien común, y lo vinculó explícitamente con la crisis climática.
Ante esta cascada de reacciones, la revista Time publicó una portada que se volvió viral. La tituló ‘El punto de inflexión de la IA’, y la ilustró con una pregunta dirigida directamente a un chatbot: “¿Qué tan peligrosa eres?”. El reportaje, firmado por Billy Perrigo, Harry Booth y Naomi Nix, recoge las preocupaciones alrededor de sistemas capaces de mejorar sus propias capacidades, los incidentes recientes en los que agentes de IA actuaron de manera no prevista y el ajedrez geopolítico que existe detrás. La revista concluye: “Incluso si uno cree que todos estos actores poderosos –gobiernos en Washington y Pekín, ejecutivos con billones de dólares en juego– están dispuestos a tomar medidas sin precedentes en aras de la seguridad de la IA, persiste la paradoja que obstaculiza el progreso. La voluntad de cada parte para actuar depende de las acciones de los demás”.
Por esa línea opinó también Bill Gates, cofundador de Microsoft. “Ningún gobierno del mundo está preparado para los cambios que la inteligencia artificial traerá a la sociedad”, afirmó. El empresario ha defendido la necesidad de una organización internacional que ayude a coordinar la respuesta frente a los riesgos de esta tecnología.
“Pedir regulación no es una cuestión de libertad de expresión. Es una cuestión de seguridad pública... Creo que estamos en esa fase en la que, si esto no ocurre, cruzaremos el límite… Estará fuera de nuestro control si no intervenimos ahora”, dijo Maria Ressa, periodista filipina y ganadora del Premio Nobel de la Paz.
El nobel Simon Johnson tiene una mirada positiva al final de todo este debate. “La buena noticia es que la gente está muy preocupada por el daño que puede causar la IA. Creo y espero que la alarma actual por el daño que puede causar la IA impulse el debate político en una mejor dirección”, aseguró.
En medio de esta discusión hay una cosa cierta: el tiempo que dan los trabajadores de estas gigantes de la tecnología es muy corto. Muchas generaciones no alcanzan a ver resueltos esos enigmas que pone la humanidad de vez en cuando. Pero en esta ocasión la cuenta regresiva para saber si la IA puede llegar a matar está a la vuelta de la esquina.