El desarrollo de la inteligencia artificial en todo el mundo ha sido un tema de amplia discusión por cuenta de los avances a pasos agigantados de esta tecnología, que, para muchos, pone en riesgo a la humanidad. Durante el Consejo de Seguridad de la ONU, el embajador de Colombia ante ese organismo, Mauricio Gaona, expuso la posición del país frente a este tema.
Gaona empezó por detallar que la principal preocupación para el país es el reencuadre del uso de la IA, pues Colombia considera que la idea no es limitar la innovación humana, sino la innovación de las máquinas.
“Diversos informes dicen que nos enfrentamos a dos riesgos: la desalineación y la pérdida de control. La desalineación, porque las máquinas están separando o encontrando formas de engañar e incumplir las instrucciones dadas por humanos. Los agentes de IA son capaces de hacer esto de forma repetida y sistemática. Incluso en el caso de ciberseguridad que analizamos, lograron acceder a internet y burlar el sistema. Otras veces son capaces de descubrir contraseñas y miles de mensajes”, detalló.
Aseguró que el otro riesgo que debería ser preocupante es la pérdida de control. Indicó que la IA tiene una inmensa capacidad para almacenar información, muy superior a la humana, y que, dados los modelos adoptados, el diseño del algoritmo y los caminos que se abren en su desarrollo, estas capacidades permiten incorporar un tipo diferente de razonamiento cada vez más complejo.
Según Gaona, pronto no habrá ningún ser humano capaz de seguir la operación y desarrollo de lo que estamos creando.
“Debemos ser conscientes de los riesgos que enfrentamos y asumimos si ese es el camino. La cuestión crítica es saber, como Consejo de Seguridad, qué estamos regulando, por qué necesitamos regularlo y por qué debemos hacerlo. Más importante, Colombia entiende la posición de Estados Unidos y comparte su enfoque práctico”, detalló Gaona.
