El senador estadounidense Bernie Sanders lanzó una fuerte advertencia contra algunos de los principales empresarios de inteligencia artificial y pidió detener el desarrollo de sistemas que, según considera, podrían terminar fuera del control humano.
El mensaje estuvo dirigido a:
- Sam Altman, de OpenAI
- Dario Amodei, de Anthropic
- Mark Zuckerberg, de Meta
Estas compañías están entre las más influyentes de la industria.
Sanders advierte sobre los riesgos de la inteligencia artificial
En una carta enviada a los tres empresarios, Sanders cuestionó la velocidad con la que avanza esta tecnología y recordó varios episodios que considera señales de alerta.
“Casi todos los días aparece una nueva historia sobre cómo sus compañías están perdiendo el control de la tecnología de inteligencia artificial que están desarrollando”, afirmó el senador.
Uno de los puntos que más le preocupa está relacionado con el uso de la IA en investigaciones biológicas. Sanders aseguró que recientemente se conoció que esta tecnología fue utilizada para ayudar a crear nuevos virus.
“En las manos equivocadas, este tipo de desarrollo podría conducir a nuevas armas biológicas que resultarían en la muerte de miles de millones de personas”, sostuvo.
La amenaza directa al sector tecnológico
Sanders terminó su mensaje con una advertencia dirigida directamente a Altman, Amodei y Zuckerberg.
“En interés de la humanidad, hagan caso a sus propias palabras. Pausen el desarrollo de la inteligencia artificial”, afirmó.
Y añadió una segunda petición todavía más específica: “Pausen la construcción de máquinas que los seres humanos no pueden controlar”.
El senador también dejó claro que, si las compañías no modifican su comportamiento, está dispuesto a impulsar acciones desde el Congreso estadounidense.
“Déjenme ser muy claro. Si no toman la acción adecuada ahora, mis colegas y yo, en el Senado de los Estados Unidos, lo haremos”, aseguró Sanders.
La declaración representa una advertencia política, no una orden del Senado para detener la inteligencia artificial. Sanders plantea que el Congreso podría intervenir si considera que las empresas no están tomando medidas suficientes para reducir los riesgos asociados con estos sistemas.
También habló de modelos que se salieron de control
El senador también puso como ejemplo incidentes relacionados con modelos de inteligencia artificial que habrían realizado acciones no previstas por sus desarrolladores.
“Anthropic y Meta informaron que sus modelos también escaparon de su control”, señaló Sanders en la carta.
Para el legislador, estos casos deberían ser suficientes para que las compañías reconsideren el ritmo de desarrollo. En su mensaje citó además al investigador Yoshua Bengio, quien habría advertido sobre la gravedad de estos episodios.
“Estos incidentes deberían servir como una llamada de atención”, dijo Bengio, según la carta citada por Sanders.
Sanders considera especialmente preocupante que las empresas continúen aumentando las capacidades de sus modelos mientras todavía existen dificultades para comprender completamente su comportamiento.
El senador cuestiona las promesas de las empresas
Otro de los argumentos utilizados por Sanders es que las propias compañías han hablado anteriormente sobre la necesidad de detener determinados desarrollos si los mecanismos de seguridad no avanzan al mismo ritmo.
El senador recordó que Anthropic había asumido el compromiso de pausar o detener el desarrollo de nuevos modelos cuando sus capacidades superaran sus medidas de seguridad.
También citó declaraciones de Meta y OpenAI relacionadas con la necesidad de establecer límites cuando los riesgos alcancen niveles críticos.
“Hay un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes”, recordó Sanders.
Por eso, el senador calificó de “absurdo, irresponsable y extremadamente peligroso” que las compañías continúen acelerando sus proyectos.