La compañía Anthropic postergó el lanzamiento de su nuevo modelo de inteligencia artificial Claude Mythos, una decisión que ha generado una mezcla de alarma y escepticismo en el sector tecnológico.
El sistema, aún en fase de pruebas, habría demostrado capacidades avanzadas de programación que, según sus propios desarrolladores, podrían convertirlo en una herramienta potencialmente peligrosa en manos de actores maliciosos como los hackers.
Un modelo capaz de encontrar fallos a escala inédita
Según Anthropic y sus socios, Claude Mythos puede analizar de forma autónoma grandes volúmenes de código para detectar vulnerabilidades de seguridad previamente desconocidas en sistemas operativos, navegadores y otro tipo de software.
Lo más importante, advierten, es que esto se puede hacer a una velocidad y a una escala que ningún ser humano puede igualar, lo que significa que podría utilizarse para paralizar bancos, hospitales o infraestructuras nacionales en cuestión de horas.
Advertencias sobre un posible uso como “arma cibernética”
“El mundo no tiene más remedio que tomarse en serio la amenaza cibernética asociada con Mythos”, afirmó David Sacks, quien preside el consejo de asesores en tecnología de Donald Trump.
Sin embargo, el mismo Sacks añadió una nota de escepticismo sobre la compañía: “Pero es difícil ignorar que Anthropic tiene un historial de tácticas alarmistas”, añadió.
Escepticismo y críticas dentro del sector tecnológico
El anuncio también ha despertado dudas entre expertos en ciberseguridad y tecnología, que ven en la narrativa de riesgo un posible componente de estrategia de mercado.
Alex Stamos, de la startup Corridor, señaló durante la conferencia HumanX AI en San Francisco que, aunque existe una amenaza real por parte de hackers “agentes”, también hay elementos de exageración.
“Tienen estos adorables y cursis dibujos animados sobre esos productos que son tan increíblemente peligrosos que ni siquiera dejan que la gente los use”, dijo Stamos sobre la startup con sede en San Francisco.
“Es como si el Proyecto Manhattan hubiera anunciado la bomba nuclear en un lindo y pequeño dibujo animado de Calvin y Hobbes”, agregó.
Demostraciones restringidas y participación de gigantes tecnológicos
Esta semana se compartió con organizaciones asociadas una vista previa estrictamente restringida de Mythos bajo una iniciativa conocida como Proyecto Glasswing.
Entre las compañías que habrían tenido acceso se encuentran Amazon, Apple, Microsoft, Google, Cisco, CrowdStrike y JPMorgan Chase.
La visión desde la ciberseguridad: una “guerra de agente a agente”
El debate también se trasladó al ámbito de la ciberseguridad empresarial. Cato Networks considera que el avance de modelos como Mythos representa un cambio estructural en el equilibrio entre atacantes y defensores.
“El modelo Mythos apunta a algo mucho más trascendental que otro salto en la inteligencia artificial”, dijo el cofundador y director ejecutivo de Cato Networks, Shlomo Kramer, en una publicación de blog.
“Señala un cambio que podría redefinir el equilibrio entre atacantes y defensores en el ciberespacio”, aseguró.
Por su parte, Palo Alto Networks anticipa un incremento significativo en la sofisticación de los ataques.
Wendy Whitmore, de la firma, advirtió sobre la posibilidad de “algún tipo de ataque catastrófico” en el corto plazo.
Mientras tanto, Adam Meyers, de CrowdStrike, alertó sobre una posible avalancha de nuevas vulnerabilidades:
“Lo que me quita el sueño es que nos enfrentamos a una avalancha de nuevas vulnerabilidades que serán descubiertas por la IA”, afirmó.
*Con información de AFP.