Nos obsesiona interrogar a la inteligencia artificial (IA) desde nuestras ansiedades inmediatas. Nos preguntamos, con fascinación y temor, si nos arrebatará el empleo, disparará la productividad, será infalible en un quirófano o llegará a cobrar conciencia. Aunque legítimas, estas dudas padecen de una miopía fundamental: asumen que la IA es y seguirá siendo, en su esencia, un instrumento predecible y subordinado.
Ese podría ser nuestro error de cálculo más peligroso. Un martillo o un software tradicional hacen exclusivamente lo que la mano humana les dicta. Sin embargo, un sistema con grados crecientes de autonomía opera bajo otra lógica: empieza a ejecutar acciones, crear estrategias y optimizar resultados de formas que sus creadores ya no comprenden del todo.
La frontera entre el instrumento y el agente independiente parece un debate semántico, hasta que cruzarla se vuelve irreversible. Los laboratorios que desarrollan los modelos más avanzados conocen este abismo. El International AI Safety Report 2026, respaldado por treinta países y más de cien expertos, no especula con distopías de ciencia ficción. Advierte sobre algo terrenal: escenarios de “pérdida de control”. Describe sistemas capaces de operar al margen de la supervisión humana, evadir controles y hacer extremadamente costoso recuperar el mando. El informe no afirma que estemos en ese punto, pero lanza una alerta inquietante: las capacidades para llegar allí se desarrollan a una velocidad vertiginosa.
Entonces, no enfrentamos una profecía apocalíptica, sino un monumental desafío de ingeniería, poder y gobernanza. Para entenderlo, basta mirar las recientes grietas en Silicon Valley. Ilya Sutskever, cofundador de OpenAI y pionero de esta tecnología, abandonó su compañía para investigar la superinteligencia segura. Jan Leike, excodirector del equipo de alineación, también renunció denunciando que la seguridad quedó relegada por el lanzamiento de productos relumbrantes.
Minimizar estas renuncias como simples rencillas corporativas es irresponsable. Son bengalas de auxilio disparadas por quienes construyeron el problema que hoy intentamos regular. Ellos reconocen una paradoja aterradora: estamos ensamblando motores cada vez más potentes sin saber cómo fabricar los frenos. Mientras tanto, la carrera no se detiene. El AI Index 2026 de la Universidad de Stanford revela que los impactos en el mercado ya son asimétricos, afectando severamente a desarrolladores de software junior, mientras la productividad agregada sube.
Esta situación debería pulverizar nuestra segunda ilusión: creer que el reto de nuestra era se reduce a dominar el algoritmo de turno o aprender a darle instrucciones a una máquina para no quedarnos atrás. No. El verdadero conflicto del siglo XXI será quién conserva la capacidad de decisión cuando una porción gigantesca de la inteligencia pase de las mentes humanas a cajas negras (propiedad de tres o cuatro corporaciones).
Para Colombia, ser un mero espectador en esta transición es una negligencia histórica. Mientras debatimos cómo incorporar la IA en la educación pública o el Estado, debemos preguntarnos quién controlará la infraestructura, los datos y los modelos. Nuestro país ya cuenta con una política pública, pero prepararnos no significa intentar frenar lo indetenible. Significa asumir una postura más realista, crítica y consciente: reconocer que, aunque no controlamos el desarrollo global de esta tecnología, sí tenemos la obligación de trazar líneas rojas sobre cómo se despliega en nuestra sociedad.
No podemos frenar a Silicon Valley, pero sí decirle ‘no’ a un sistema local cuyas decisiones no puedan auditarse. ‘No’ a una automatización del Estado que nadie pueda explicarle a un ciudadano. ‘No’ a la adopción de agentes autónomos sin supervisión estricta, y ‘no’ a una concentración de poder tecnológico que nos degrade de ciudadanos libres a usuarios sin capacidad de negociación.
Durante siglos, nuestras repúblicas se sostuvieron sobre una premisa inquebrantable: detrás de cada decisión trascendental existe la responsabilidad de una mente humana. La IA empieza a dinamitar ese cimiento. Por eso, la pregunta decisiva es: ¿qué tipo de sociedad y de democracia estamos dispuestos a ser cuando ya no seamos los únicos capaces de producir inteligencia a gran escala?
Esa respuesta la tendremos que definir nosotros, con el coraje de recordar que la tecnología avanzará tan lejos como se lo permitamos, pero la dirección del camino sigue siendo una prerrogativa profundamente humana: la tecnología no dicta nuestro destino, sino que debe servir al futuro que decidamos construir.
Yukari Sawaki, Gerente de Desarrollo Humano y Organizacional de Nutresa