Nueva amenaza en redes sociales: hackers manipulan a Grok, el chatbot de X, para compartir enlaces maliciosos

Una nueva campaña de anuncios maliciosos ha logrado manipular a Grok, el chatbot integrado en la red social X (antigua Twitter), para difundir enlaces de phishing y malware a gran escala.

La compañía de seguridad ESET advirtió sobre una nueva modalidad de malvertising que tiene la capacidad de saltar las restricciones publicitarias de X, diseñadas para impedir anuncios maliciosos.

Esto lo hace mediante la publicación de videos con contenido clickbait cuya información de origen (que se muestra en gris debajo de la publicación) incluye, en lugar del nombre de un medio de comunicación o una web, un enlace fraudulento que redirige a páginas de phishing o a descargas de malware.

Esta campaña se caracteriza por manipular a Grok para conseguir que difunda el enlace a gran escala, y para ello, los ciberdelincuentes le piden al chatbot que identifique el origen del video. Al analizar la publicación, detecta el enlace incrustado y lo repite de forma automática, ampliando el alcance de la estafa.

Se trata, en realidad, de una forma de ataque por inyección de instrucciones o prompt injection, en el que los ciberdelincuentes introducen comandos ocultos en el contenido procesado por sistemas de inteligencia artificial para que realicen acciones que tienen bloqueadas.

Esta campaña de anuncios maliciosos se ha denominado AI-aided malvertising o Grokking, por el papel que tiene la inteligencia artificial en el impulso a la difusión y por ser precisamente Grok el chatbot escogido para ello.

Aunque ya se sabía que la IA se utiliza en campañas maliciosas, el director de investigación y concienciación de ESET España, Josep Albors, señaló la “amenaza aún más sutil y potencialmente más peligrosa” que representa este descubrimiento hecho en X.

“El caso de Grokking demuestra que incluso las IA más avanzadas pueden ser manipuladas para actuar contra los usuarios”, manifestó.

Los delincuentes aprovechan la reputación de Grok como fuente fiable de información, con el potencial de alcanzar millones de visualizaciones. Sin embargo, como matiza la compañía, su impacto no se limita a la red social X, sino que puede alcanzar cualquier plataforma que integre modelos de lenguaje o asistentes basados en IA.

*Con información de Europa Press.