La red social X, propiedad del magnate Elon Musk, anunció que bloqueará la generación de imágenes sexualizadas a través de Grok, la inteligencia artificial integrada en la plataforma. La decisión se produce tras la creciente polémica por la creación de fotografías de personas con ropa interior o bikinis, incluidas imágenes de menores de edad.
En un mensaje publicado en la propia red social, la cuenta de Seguridad de X explicó que esta medida responde al compromiso de la compañía de “crear un espacio seguro para todos” y de mantener una política de tolerancia cero frente a cualquier forma de explotación sexual infantil, desnudos sin consentimiento y contenido sexual no deseado.
“Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis o prendas íntimas. Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”, señaló la plataforma.
Cabe recordar que el pasado 9 de enero X anunció que la función de generación de imágenes quedaría limitada a los usuarios con suscripción. Sin embargo, ahora la restricción se amplía a toda la comunidad, lo que impide de forma general la creación de fotografías o ilustraciones con este tipo de contenido.
Asimismo, la compañía precisó que ha aplicado bloqueos geográficos que impiden a los usuarios generar imágenes de personas reales en bikini, ropa interior o atuendos similares a través de Grok, tanto dentro de X como en su versión independiente, en aquellas jurisdicciones donde esta práctica es ilegal.
Las presiones hacia X
Más allá del compromiso público de “tolerancia cero”, la decisión de X llega en medio de una creciente ola de presiones contra la plataforma. A las denuncias de los propios usuarios se suman las acciones de varios gobiernos que han buscado frenar el uso indebido de esta tecnología.
La Unión Europea solicitó a X conservar toda la documentación relacionada con la generación de imágenes hasta finales de este año. Por su parte, el Reino Unido amenazó con bloquear la red social, mientras que Malasia e Indonesia optaron por prohibir directamente el uso de Grok.
A estas críticas se han unido organizaciones defensoras de los derechos digitales, la seguridad infantil y los derechos de las mujeres, que han pedido a Apple y Google tomar medidas para impedir la distribución de Grok en sus tiendas de aplicaciones.
“Grok se está utilizando para crear grandes cantidades de imágenes íntimas no consentidas, incluyendo material de abuso sexual infantil. Se trata de contenido que constituye un delito penal y que infringe directamente las directrices de revisión de aplicaciones de Apple”, advirtieron estas organizaciones en una carta abierta.
*Con información de Europa Press
