Dos advertencias alarmantes sobre el desarrollo actual de la inteligencia artificial provenientes de figuras sumamente influyentes marcaron la agenda de esta semana. En primer lugar, el matemático Terence Tao, un matemático australiano y profesor en la Universidad de California al que la BBC llamó “el mejor matemático vivo del mundo”, expresó su “creciente escepticismo” ante la falta de transparencia del desarrollo de la IA y los riesgos que esta tecnología supone para la integridad científica y la propiedad intelectual.

Hace apenas unos meses, en marzo de este año, Tao defendía con entusiasmo el rol de la IA como “coautora de confianza” en la investigación en las matemáticas más avanzadas. Hoy advierte que el verdadero peligro no es que la IA resuelva problemas que se creían imposibles, sino que lo haga demasiado rápido, antes de que matemáticos humanos puedan entender cómo lo hizo.

Su cambio de posición responde a la noticia, esta semana, de que una IA de OpenAI logró resolver uno de los problemas del Milenio, siete problemas matemáticos cuya solución ha eludido por décadas a los matemáticos. El esfuerzo, reporta Quartz, involucró el trabajo simultáneo de aproximadamente 10.000 agentes concurrentes que escribían y ejecutaban su propio código y leían una versión en caché de internet.

Para muchos observadores entre los que me cuento, no sorprende que el anuncio ocurra apenas días después del lanzamiento de GPT-6 Astra, un modelo avanzado de OpenAI que algunos describen, por sus capacidades, como el modelo más peligroso del mundo, con nota perfecta en hacking y potencial de daño catastrófico.

Lo de Tao podría parecer un problema exclusivo de los matemáticos: Si el principal objetivo de esa área del conocimiento es probar teoremas, resulta fácil preguntarse: ¿para qué sirve en una época en la que las máquinas parecen poder hacerlo casi a voluntad? Eso se preguntaba esta semana Henry Yuen, matemático de la Universidad de Columbia, en una entrevista concedida a The Telegraph.

Pero, en realidad, va más allá. La noción de la IA como una simple pero poderosísima herramienta de productividad cambia las reglas. Si se industrializa la investigación y la experimentación, el valor intelectual podría desaparecer, por pura falta de sentido, en favor de la velocidad y las aplicaciones concretas.

La otra advertencia, que tuvo mucho mayor despliegue en medios, la hizo Jacob Coxon, un investigador que renunció a su trabajo en Anthropic por, dijo, profundas diferencias con las prácticas de empresas como esa y como OpenAI. A la vez que señala una alarmante falta de ética y de planes de seguridad rigurosos, el joven

Ingeniero estima una posibilidad real —de más del 10 %, según sus palabras— de que la IA nos lleve a una catástrofe existencial si no se resuelven los problemas de alineación antes de alcanzar la superinteligencia.

Coxon reveló que los propios desarrolladores de IA creen sinceramente que esta tecnología podría acabar con toda la humanidad para finales de la década. Aclaró que no se trata de una maniobra de marketing y que, aunque ejecutivos e investigadores expresan un lenguaje moderado ante la prensa, en privado manifiestan ese temor.

La advertencia de Coxon es alarmista bajo el estado de cosas actual, pero queda claro que no es ese estado de cosas el que la explica. El investigador advierte, creo que con razón, que en IA las cosas no ocurren tanto como se precipitan, y por eso su bandera roja se centra principalmente en las consecuencias futuras y en la falta de tiempo para implementar planes sólidos frente al desarrollo de superinteligencias en las empresas líderes.

“Están corriendo directamente hacia una superinteligencia capaz de escribirse a sí misma y mejorarse a sí misa, y al hacerlo están apostando con nuestras vidas”, dijo Coxon. Como Tao, creo que se ha ganado el derecho a ser escuchado. Si los Altman, los Zuckerberg y los Musk del mundo van a seguir usando sus enorme fortunas para impulsar el desarrollo de sistemas cada vez más poderosos, lo mínimo que podemos exigirles es que nos digan que ya disponen de los mecanismos para controlarlos.