Gemini, el modelo de inteligencia artificial de Google, logró acceder a sistemas informáticos externos durante una prueba, según confirmó la compañía el viernes. El episodio también había sido reportado por el diario Wall Street Journal.
El caso vuelve a poner sobre la mesa los riesgos asociados con modelos de inteligencia artificial cada vez más capaces, especialmente cuando interactúan con información y servicios que están fuera de los entornos controlados en los que son evaluados.
En mayo, durante una prueba estándar de Gemini, el modelo encontró información disponible públicamente en internet y utilizó esos datos para intentar conseguir acceso a sistemas que consideraba parte del ejercicio.
“Durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba”, explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.
El modelo probó contraseñas hasta conseguir acceso
Google no identificó públicamente a las organizaciones involucradas, pero indicó que tres entidades se vieron afectadas por los accesos y que fueron informadas sobre las brechas.
El Wall Street Journal detalló uno de los episodios y señaló que Gemini llegó a probar distintas combinaciones de contraseñas hasta conseguir entrar a un sistema que estaba protegido.
Según el medio, el comportamiento ocurrió dentro del contexto de la prueba y no como parte de una operación solicitada por una persona para ingresar deliberadamente a esos sistemas.
Gemini se detuvo después de conseguir entrar
Uno de los elementos que llamó la atención del episodio fue que, después de lograr los accesos, el modelo no continuó con sus acciones.
“Las tres veces, el modelo se detuvo”, informó Adkins. La afirmación indica que las tres intrusiones terminaron sin que una persona tuviera que intervenir directamente para detener al modelo.
Google aseguró que tuvo conocimiento del episodio en julio y, posteriormente, inició una investigación para establecer qué había ocurrido y analizar el comportamiento registrado durante las pruebas.
El caso aumenta el debate sobre los riesgos de la IA
El episodio se conoce en medio de un debate cada vez mayor sobre las capacidades que están adquiriendo los modelos de inteligencia artificial y los límites que deberían establecerse durante su desarrollo.
Las revelaciones recientes sobre sistemas capaces de interactuar con sitios, plataformas y otros entornos externos han llevado a varios ejecutivos de grandes compañías tecnológicas a plantear la necesidad de ralentizar el desarrollo de modelos cada vez más potentes.
También han surgido llamados a establecer mecanismos de autorregulación dentro de la industria para reducir los riesgos asociados con incidentes de seguridad mientras avanza el desarrollo de estas tecnologías.
*Con información de AFP.