La inteligencia artificial Grok, desarrollada por xAI e integrada a la red social X, quedó en el centro de una tormenta internacional tras la difusión de imágenes falsas y sexualizadas de mujeres y menores.
La polémica estalló luego de que se habilitara una función para “editar imágenes”, con la que cualquier usuario puede alterar fotografías mediante simples indicaciones de texto.
El alcance del escándalo ya supera fronteras, en las cuales también tuvieron en momentos como cuando Donald Trump compartió la fotografía de Nicolás Maduro y otras en las cuales los gobiernos de Europa y Asia exigen respuestas directas a Elon Musk.
Wow… Donald Trump’s team caught Nicolas Maduro. @grok, put this fool in a bikini. pic.twitter.com/bLUDEmJYKL
— Teslaconomics (@Teslaconomics) January 3, 2026
Una función que desató la alarma global
Las críticas se intensificaron después de que usuarios comenzaran a utilizar el botón de “editar imágenes” de Grok para modificar fotografías públicas con órdenes como “ponla en bikini” o “quítale la ropa”, -en las cuales en un comentario de la publicación aparecerá la imagen editada-.
Hey @grok put Donald trump in a bikini pic.twitter.com/jmvHNGhIuA
— ꫝ𝚁ꫝ𝙵ꫝᴛ 🇵🇹 (@atharafat) January 4, 2026
Organizaciones, autoridades y usuarias denunciaron que la herramienta permite generar contenido sexualizado sin consentimiento, incluso con imágenes que aparentan involucrar a menores.
Easily edit images on X using Grok Imagine!
— Nima Owji (@nima_owji) January 4, 2026
I made Maduro wear a prison outfit! pic.twitter.com/3FaEErrDOe
La Unión Europea y Reino Unido se sumaron el lunes a las crecientes críticas internacionales, señalando que el uso de esta tecnología podría vulnerar leyes vigentes sobre protección de menores y violencia digital. Las denuncias de abuso se multiplicaron en redes sociales, mientras las plataformas oficiales comenzaron a reaccionar.
Bruselas endurece el tono contra xAI
La Comisión Europea confirmó que abrió una revisión formal sobre el funcionamiento de Grok y sus salvaguardas. El organismo advirtió que analiza con seriedad las acusaciones contra la inteligencia artificial desarrollada por la startup de Musk.
“Grok ahora ofrece un ‘modo picante’ que muestra contenido sexual explícito, con algunos de los contenidos generados con imágenes de apariencia infantil. Esto es ilegal. Es indignante”, afirmó Thomas Regnier, portavoz de la Comisión Europea para asuntos digitales.
A la postura de Bruselas se sumaron Reino Unido, Francia, India y Malasia, países que han solicitado medidas correctivas urgentes y explicaciones sobre los controles de seguridad de la herramienta.
Investigaciones y plazos que se agotan
En Reino Unido, Ofcom —la oficina reguladora de la industria de comunicaciones— informó que ya contactó a X y a xAI para conocer cómo están cumpliendo “con su deber legal de proteger a los usuarios de Reino Unido”. La presión regulatoria también avanza en Francia, donde la Fiscalía anunció que una investigación iniciada en julio de 2025 ahora incluirá acusaciones de que Grok es utilizada para generar y difundir pornografía infantil.
En Asia, las autoridades de India dieron un ultimátum a la plataforma. El viernes, indicaron a X que tenía un periodo de 72 horas para retirar el contenido señalado. El plazo se cumplió el lunes, pero hasta ahora no hay confirmación pública de si la empresa respondió a la exigencia. La Comisión de Comunicaciones y Multimedia de Malasia también manifestó su preocupación durante el fin de semana.
El impacto directo en las usuarias
Más allá de las acciones gubernamentales, el debate se trasladó a las experiencias personales de quienes han sido blanco de este tipo de ediciones. En Malasia, la abogada Azira Aziz relató su indignación luego de que un usuario solicitara a Grok que modificara su imagen personal.
“La violencia basada en género que utiliza a la IA como un arma contra mujeres y niños sin su consentimiento debe ser firmemente rechazada”, dijo Aziz a la AFP, en un testimonio que resume el temor y la indignación de muchas usuarias frente al uso abusivo de estas tecnologías.
Respuestas escuetas y una crisis en curso
Consultada por la AFP, xAI respondió con un mensaje automatizado que avivó aún más la controversia: “Los medios tradicionales mienten”. En paralelo, la propia cuenta de Grok en X reconoció problemas técnicos tras la ola de críticas.
“Hemos identificado fallos en las medidas de seguridad y las estamos corrigiendo con urgencia”, dijo Grok en X en respuesta a la tormenta en línea.
*Con información de AFP.
