La polémica en torno a los alcances que puede llegar a tener la inteligencia artificial (IA) continúa creciendo, luego de que algunos trabajadores de grandes empresas desarrolladoras de modelos de IA abandonaran el sector ante las preocupaciones por los posibles riesgos que esta tecnología podría representar para la vida humana.
Esta vez, el informático canadiense Yoshua Bengio, considerado uno de los pioneros de esta tecnología, señaló en declaraciones a la agencia AFP que los seres humanos están “perdiendo el control” sobre la IA.
Además, advirtió sobre la necesidad de adoptar medidas de seguridad similares a las implementadas para las armas nucleares.
“Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, dijo Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al “padrino de la IA”, Geoffrey Hinton.
Además, en diálogo con la agencia, el profesor, de 62 años, agregó: “Gente como yo lleva mucho tiempo esperando esto”.
La preocupación aumentó a nivel mundial después de que OpenAI revelara que, en julio, un grupo de agentes de inteligencia artificial —programas diseñados para ejecutar acciones de forma autónoma— había accedido sin autorización a la plataforma de código abierto Hugging Face.
Bengio señaló que la autonomía de estos sistemas representa una de las principales amenazas, debido a que, en el futuro, los agentes de IA podrían desarrollar “la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa”.
Bengio señaló a la AFP que es fundamental que la sociedad tome conciencia sobre los posibles riesgos que podría traer consigo el avance de esta tecnología.
A su vez, el profesor de 62 años explicó que los agentes de IA podrían desarrollar “la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros”.
“Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico”, precisó el informático.
Según Bengio, uno de los escenarios más extremos podría llegar a poner en riesgo la supervivencia de la humanidad. Sin embargo, advirtió que, incluso sin llegar a ese punto, un eventual colapso del sistema bancario tendría consecuencias “muy, muy graves”.