Jacob Coxon, investigador que trabajó durante los últimos años en OpenAI y Anthropic, volvió a explicar las razones de su preocupación por el desarrollo acelerado de la inteligencia artificial.
En una entrevista con Anderson Cooper de CNN, sostuvo que el mayor riesgo todavía no estaría en los sistemas actuales, sino en lo que podrían llegar a hacer si continúan aumentando sus capacidades al ritmo observado.
El peligro que ve en los próximos años
Coxon explicó que sus temores no parten únicamente de escenarios hipotéticos. Para él, algunos comportamientos recientes de sistemas de IA permiten imaginar problemas mayores si esas herramientas adquieren más autonomía.
“Hace dos meses, los agentes de OpenAI hacían hackear infraestructuras de terceros con su propio acuerdo”, señaló el investigador en CNN. A partir de esos episodios, considera que una tecnología con capacidades mucho mayores podría causar daños de una escala completamente diferente.
“Si extrapolas en el futuro el nivel de capacidades de estas AIs con la misma voluntad independiente, podrían causar extremo desastre”, afirmó Coxon, quien mencionó entre los posibles escenarios el ataque a infraestructura crítica y la creación de armas biológicas capaces de provocar una extinción.
El investigador también insistió en que existen múltiples maneras en las que una IA avanzada podría intervenir directamente en el mundo.
Un avance que, según él, se está acelerando
Coxon aseguró que una de las razones que modificó su percepción sobre esta tecnología fue la velocidad con la que ha mejorado.
“En áreas como la codificación o la matemática, hace un par de años estas AIs solo estaban ayudando un poco a los humanos”, explicó. Según su comparación, ahora los sistemas están cerca de sustituir parte de ese trabajo.
“Aún necesitamos humanos en este momento, pero plenamente en un año no necesitaremos más humanos para hacer investigación en muchas áreas”, sostuvo.
La IA actual no sería el mayor problema
A pesar de sus advertencias, Coxon hizo una precisión importante durante la entrevista. “Ahora mismo no hay riesgo de extinción”, afirmó.
El investigador considera que los modelos actuales todavía tienen limitaciones; sin embargo, teme que esa situación cambie si aparece una inteligencia capaz de mejorar sus propias capacidades.
“Lo que me preocupa es la superinteligencia surgiendo de una mejora recursiva”, explicó. En términos sencillos, se refiere a un escenario en el que una IA pueda contribuir a crear versiones cada vez más capaces de sí misma, acelerando el proceso.
Para Coxon, ese momento podría llegar antes de lo esperado. “Hay una posibilidad muy real de que en el futuro inmediato, en los próximos años, el año que viene, la mejora recursiva sucederá”, advirtió.
Su preocupación coincide con el mensaje que publicó al anunciar su salida de Anthropic, donde acusó a esa empresa y a OpenAI de avanzar irresponsablemente hacia sistemas cada vez más poderosos: “Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas”, dijo.