El Gobierno británico instó este martes a la red social X, propiedad del empresario Elon Musk, a adoptar medidas urgentes para frenar la proliferación de imágenes falsas de mujeres y niñas desnudas generadas por Grok, su asistente de inteligencia artificial (IA).
“Lo que hemos observado en internet en los últimos días es absolutamente repugnante e inaceptable en una sociedad decente”, afirmó Liz Kendall, ministra de Tecnología del Ejecutivo laborista encabezado por Keir Starmer.
“No podemos ni permitiremos la difusión de estas imágenes humillantes y degradantes, que afectan de forma desproporcionada a mujeres y niñas. X debe resolver este problema con urgencia”, subrayó la funcionaria.
Grok, el asistente de IA de la plataforma X, ha sido objeto de fuertes críticas luego de que usuarios lograran generar, con su ayuda, imágenes de carácter sexual de mujeres y menores. Estos contenidos, creados a partir de la manipulación de fotografías o videos de personas reales, han provocado protestas a nivel internacional.
Ante esta situación, la Comisión Europea anunció el lunes que está examinando “muy seriamente” las denuncias relacionadas con la herramienta.
“El Reino Unido no tolerará la proliferación continuada de contenidos repugnantes y ofensivos en línea”, recalcó Kendall, quien además expresó su “pleno respaldo” a las acciones del regulador británico Ofcom y a “todas las medidas coercitivas que considere necesarias”.
Ofcom, el organismo encargado de regular la televisión, la radio, las telecomunicaciones y los servicios digitales en el país, informó que solicitó a X información sobre los mecanismos de protección para sus usuarios y no descartó la apertura de una investigación formal.
Por su parte, Grok reconoció el viernes la existencia de “fallos” que permitieron la generación de imágenes sexuales de mujeres y menores, y aseguró que está corrigiendo estas deficiencias “de manera urgente”.
De acuerdo con la legislación británica sobre seguridad en línea (Online Safety Act), las plataformas digitales están obligadas a prevenir la aparición de este tipo de contenidos y a retirarlos con rapidez. En caso de incumplimiento, las empresas se exponen a sanciones de hasta 18 millones de libras (unos 24 millones de dólares) o al 10 % de su facturación global, si esta cifra resulta superior.
*Con información de AFP.