Mientras las empresas incorporan inteligencia artificial (IA) para automatizar procesos, analizar información y mejorar productividad, las amenazas digitales asociadas también pueden aparecer.
Y si bien aumentar su velocidad, sofisticación y capacidad de adaptación parece obligación casi diaria, también lo es pensar en un nuevo escenario: que las organizaciones deben comenzar a utilizar IA para defenderse de ataques potenciados -paradójicamente- por IA.
Ni las empresas que hacen IA se salvan
El asunto toma notoriedad. Incluso las empresas desarrolladoras de modelos IA han reportado intrusiones de sus algoritmos en sistemas externos.
Anthropic reportó a finales de julio que su modelo Claude obtuvo acceso no autorizado a tres organizaciones durante una serie de pruebas diseñadas para mantenerlos aislados de sistemas del “mundo real”.
Pocos días después, a inicio de agosto, Meta anunció que su agente de inteligencia artificial Muse Spark actuó de forma inesperada y vulneró sistemas de otra compañía durante pruebas de ciberseguridad.
Para el 10 de agosto, OpenAI reconoció que algunos de sus modelos estuvieron involucrados en un acceso no autorizado a Hugging Face e identificó un comportamiento descontrolado durante unas pruebas de ciberseguridad realizadas por el Instituto de Seguridad de la IA del Reino Unido (AISI).
En ese escenario, TrendAI, una empresa de ciberseguridad, sostuvo en junio que el problema ya no consiste entonces únicamente en proteger sistemas, sino en administrar riesgos generados por la propia adopción masiva de herramientas basadas en IA.
Una IA que golpea desde todos los flancos
Y es que la preocupación baja en la escala, desde lo organizacional hasta lo criminal.
Check Point -una tecnológica multinacional proveedora a nivel global de soluciones de seguridad informática, conocida por sus productos de cortafuegos y VPN, y por ser pionera en la industria con FireWall-1- alertó en marzo de este año sobre el uso de inteligencia artificial agéntica por parte de ciberdelincuentes que crean malware en cuestión de días.
En uno de sus análisis, planteó que la IA está transformando el panorama de amenazas, porque les permite a los atacantes ejecutar tareas complejas de forma autónoma, reduciendo significativamente el tiempo y los recursos necesarios para desarrollar software malicioso.
Por el lado del ciudadano de a pie, el panorama es, cuando menos, variopinto. Al menos en el país, la IA preocupa a los colombianos, aunque al tiempo la ven como aliada contra el fraude digital.
Un estudio de DataCrédito Experian conocido en septiembre revela que el 86 % de los colombianos quiere aprender a identificar fraudes creados con IA, mientras que el 53 % permitiría que esta tecnología analizara su información personal para detectar amenazas.
La investigación, titulada Del fraude digital a la confianza digital, detalla además que siete de cada diez colombianos (71 %) recibieron al menos un intento de fraude durante el último año, que el 95 % considera que estas prácticas ocurren con frecuencia en el país y que el 81 % percibe que los intentos aumentaron frente al año anterior.
¿Seguridad y riesgo, solo por innovar?
Entonces, ¿qué hacer?, ¿o la IA está condenada a ser un incensante ciclo de seguridad y riesgo?
La respuesta, para Huawei, es un rotundo no. Plantea, de hecho, que la IA ya no puede limitarse a conectar personas y dispositivos: debe soportar mayores volúmenes de datos y aplicaciones críticas, mientras incorpora herramientas para administrar y proteger entornos tecnológicos cada vez más complejos.
Aprovechar la inteligencia artificial para identificar comportamientos anómalos, automatizar procesos de protección y acelerar la respuesta frente a incidentes están entre las consideraciones.
Y la lógica detrás de esta aproximación es que, si los atacantes cuentan con herramientas capaces de hacer más dinámicas y adaptables las amenazas, las organizaciones también necesitan incorporar nuevas capacidades para anticiparlas y contenerlas.
Pero este cambio implica repensar dónde comienza la ciberseguridad. Cada red, dispositivo, conjunto de datos, aplicación o sistema de IA representa un activo digital y, por tanto, la protección debe integrarse desde el diseño, en lugar de funcionar únicamente como una capa adicional.
No solo es tener más capacidad
Conforme la inteligencia artificial ‘crece’, aumentan las exigencias sobre las redes que transportan la información. Es decir, la expansión de servicios en la nube, herramientas de colaboración y dispositivos conectados demandan mayor capacidad, eficiencia y estabilidad.
Sin embargo, no basta con aumentar la capacidad de las redes, más si la infraestructura que los soporta no evoluciona al mismo ritmo, porque administrar estos servicios se vuelve más complejo.
Ahí es donde la automatización en doble vía entra, plantea Huawei: porque puede ayudar a simplificar tareas operativas, a optimizar recursos y también a identificar posibles fallas y riesgos, permitiendo que la infraestructura evolucione sin que su gestión aumente en la misma proporción.
Para la tecnológica, en los próximos años, la respuesta de las empresas estará cada vez más ligada a su capacidad para responder a mayores cargas de información, para simplificar su operación y para enfrentar un panorama de amenazas que también se vuelve más inteligente.