El equipo de inteligencia de amenazas de la empresa Anthropic identificó un patrón alarmante: diversos usuarios intentaron utilizar su modelo de inteligencia artificial para investigaciones orientadas al desarrollo de armas biológicas y patógenos peligrosos.
Según indicó Anthropic en su reporte oficial: “El mal uso biológico es uno de los riesgos más graves de los modelos avanzados de IA”.
Investigaciones bajo la lupa
Los hallazgos expusieron que los involucrados buscaron manipular virus y toxinas, abarcando desde estudios de modificación genética para aumentar la transmisibilidad del virus chikungunya hasta experimentos de adaptación en mamíferos de la gripe aviar. Asimismo, se detectaron intentos de diseñar toxinas y analizar la evasión inmune en ortopoxvirus, la familia viral que incluye a la viruela.
Estas actividades poseen un carácter de doble uso, término que explica cómo los mismos datos científicos necesarios para crear vacunas o tratamientos pueden aplicarse para potenciar agentes dañinos. En su comunicado, la compañía señaló que “las capacidades biológicas son de doble uso” y que “los actores sofisticados aprovechan la naturaleza de doble uso de la biología para mantener una especie de ‘denegación plausible’ sobre sus investigaciones”.
Barreras de contención y barrido de cuentas
Para neutralizar estas acciones, las defensas automáticas de la plataforma bloquearon las consultas de alto riesgo o confinaron la interacción a modelos de menor capacidad. Anthropic confirmó que “en cada caso, frenamos la actividad, utilizamos lo aprendido para reforzar nuestras salvaguardas y compartimos inteligencia con las autoridades”. Además, la entidad procedió a suspender las cuentas involucradas y desmantelar las conexiones que evadían restricciones geográficas.
Respecto a la divulgación de estos eventos, Anthropic afirmó que “hasta donde sabemos, ninguna empresa privada, de IA u otra índole, ha compartido públicamente evidencia sobre el potencial mal uso de sus plataformas para el desarrollo de armas biológicas”.
El futuro de la seguridad biológica
Ante el avance constante de la tecnología, la empresa enfatizó en su reporte que “la única forma segura de ofrecer capacidades biológicas de frontera es disponerlas en programas de usuarios de confianza”. Con esta medida, se busca garantizar que el progreso científico beneficie a la salud pública sin comprometer la seguridad global.