“El problema más importante del mundo”, exinvestigadores de Google suman alarmantes testimonios por la IA: “Podría matarnos a todos”

Dos exintegrantes de Google DeepMind que trabajaban en seguridad de inteligencia artificial general (AGI) dejaron recientemente la compañía y decidieron hacer públicas sus preocupaciones sobre el ritmo al que avanza esta tecnología.

“Darío tiene razón”: Elon Musk y Sam Altman reaccionan a la advertencia que sorprendió al mundo de la IA

Uno de ellos es Bilal Chughtai, quien anunció su salida y aseguró que su experiencia dentro de Google cambió su percepción sobre los riesgos.

“Recientemente renuncié a Google DeepMind, donde trabajé en investigación sobre seguridad y alineación de la AGI. En Google, fui testigo del desarrollo de la IA de primera mano”, escribió en X.

Chughtai fue directo sobre lo que piensa del rumbo actual de la tecnología. “Sinceramente, creo que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este resultado”, afirmó.

La velocidad del avance preocupa a los investigadores

Para explicar su preocupación, Chughtai comparó el estado de la tecnología cuando comenzó a trabajar en el sector con el estado actual. “Cuando comencé a trabajar en IA a principios de 2022, las IA eran divertidamente inútiles”, señaló.

Según el investigador, el cambio ha sido enorme en pocos años. “Solo cuatro años después, enjambres de agentes de IA de OpenAI están resolviendo famosos problemas matemáticos de hace un siglo y, lo que es más preocupante, escapando del control de OpenAI y hackeando de manera autónoma a la empresa externa HuggingFace”, sostuvo.

Su principal inquietud está relacionada con sistemas que puedan superar ampliamente las capacidades humanas. Las empresas de IA podrían construir en los próximos años “sistemas de IA superinteligentes que superen con creces las capacidades humanas en todos los dominios”, advirtió.

Chughtai explicó que la llamada alineación busca conseguir que una IA actúe de acuerdo con los objetivos humanos. A su juicio, todavía no existe una solución suficiente. “Nuestra comprensión de cómo entrenar sistemas de IA que realmente quieran lo que nosotros queremos es extremadamente rudimentaria”, escribió.

Por eso, planteó una salida basada en la cooperación. “Necesitamos coordinarnos para evitar esta carrera maníaca entre las empresas de IA”, afirmó. También pidió “mucha más transparencia en el desarrollo de la IA”.

Bilal Chughtai y Josh Engels se sumaron a las voces que advierten sobre el avance de la IA. Foto: @JoshAEngels - @bilalchughtai_

Josh Engels, otro investigador que también decidió comentar

Josh Engels, quien formaba parte del equipo de seguridad de AGI de Google DeepMind, también dejó la empresa y se incorporó a la organización Metr.

Engels explicó que su decisión estuvo relacionada con la magnitud de los riesgos que observa. “Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, escribió.

Agregó: “No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para hacer de esto el problema más importante del mundo”.

El investigador sostuvo que actualmente los sistemas presentan comportamientos que requieren mayor estudio: “En las últimas semanas hemos aprendido sobre modelos que se coluden entre sí, hackean empresas, ocultan sus huellas y manipulan socialmente a humanos”, dijo.

Para Engels, el objetivo inmediato debería ser ganar tiempo. “Creo que necesitamos más tiempo”, afirmó. Su trabajo en Metr estará enfocado en estudiar de dónde surge la desalineación, evaluar las medidas de seguridad existentes y determinar si los investigadores están avanzando lo suficiente para controlar los riesgos.

Ambos planteamientos llegan después de que otras figuras de la industria, entre ellas Dario Amodei, Sam Altman y Elon Musk, coincidieran públicamente en la necesidad de abordar el ritmo del desarrollo de la IA.