“Un video de IA que muestra mujeres exhibidas en vitrinas en Medellín supera las 9 millones de visualizaciones. Rastreamos su origen. Lo que encontramos es peor de lo que parece”, con esa sentencia divulgada en su cuenta de X, Camilo Andrés García alertó sobre el alcance del uso de la inteligencia artificial para promover contenido sin importar si se trata de noticias falsas o dañinas para ciudades que tratan de dejar atrás el lastre del narcotráfico, la prostitución e inseguridad que arrastra desde hace más de 30 años.
Según @hyperconectado, como se hace llamar Camilo Andrés en su cuenta de X, el contenido en referencia fue creado por una agencia en Frankfurt, Alemania. Son videos que dejan ver imágenes de mujeres creadas con inteligencia artificial como si fueran mercancía.
“Los hallazgos revelan un modelo de negocio donde la generación masiva de contenido sintético que cosifica a la mujer no es un efecto secundario: es el producto”, dice un artículo publicado en su sitio web.
El video citado muestra imágenes de inteligencia artificial como si fueran mujeres dedicadas al trabajo sexual encerradas en vitrinas simulando rasgos latinos y con el destacado “Medellín 🇨🇴”.
Ese video hasta ayer, 24 de febrero, sumaba en una plataforma 9 millones de reproducciones.”El video ya le da la vuelta al mundo y afecta la reputación de una ciudad entera”, aseguró la investigación de @Hiperconectado.
¿Quién es el responsable? Según determinó este rastreo, una agencia de marketing digital con sede en Frankfurt, Alemania, “que opera en la industria del contenido para adultos y que utiliza inteligencia artificial para producir videos virales a escala industrial. La misma narrativa —mujeres en vitrinas— ha sido replicada con al menos diez ciudades diferentes del mundo, desde El Cairo hasta Buenos Aires, desde Dublín hasta Hanói”.
Los contenidos circulan en diferentes plataformas, incluso replicados por connotados influencers como Dominick McGee, un estadounidense con 1,5 millones de seguidores en X.
Por el uso de este tipo de contenidos, su cuenta ya había sido sancionada por la plataforma, aunque fue “reinstalado por decisión directa de Elon Musk”, según el autor de la investigación.
El distribuidor inicial de los videos, sin embargo, desapareció ayer de plataformas como TikTok. Se trata de @arthi.king, quien se había dedicado a publicar videos similares con destacados de otras ciudades como Cusco, Cartagena, y países como Irlanda y Argentina.
Este tipo de contenidos aparecen cuando Medellín, de la mano del alcalde Federico Gutiérrez, ha emprendido una campaña para evitar el turismo sexual a su ciudad.
De hecho, Migración Colombia, la autoridad nacional del flujo migratorio, hasta el 26 de diciembre del año pasado había inadmitido 105 ciudadanos extranjeros por posible turismo con fines de explotación sexual.
Con este tipo de investigaciones, personas como Camilo denotan la gravedad de que este tipo de contenidos circulen sin restricción en Internet.
Por ello, para alertar a los internautas, destacó que “los avatares (o figuras que simulan ser mujeres) carecen de piernas o estas presentan deformaciones severas, las proporciones corporales son irregulares y cambian entre fotogramas, los reflejos en el vidrio no corresponden a la geometría de la escena y las texturas de la ropa presentan patrones repetitivos típicos de modelos generativos”.
En el epílogo de su libro Nexus, el antropólogo israelí Yuval Noah Arari cuestiona la libertad que tiene el desarrollo y uso de la inteligencia artificial. “En los próximos años no habrá red de información —desde los ejércitos hasta las religiones— que no incorpore millones de nuevos miembros de IA que procesarán datos de manera diferente a los humanos”. Sin embargo, dice el autor, “estos nuevos miembros tomarán decisiones extrañas y generarán ideas extrañas, es decir, decisiones de ideas que es poco probable que se les ocurran a los humanos”.
Una mirada mucho más preocupante que la que se cierne sobre videos como estos que sexualizan a la mujer y la muestran como un objeto. El uso de la IA, considera, llevará transformaciones que hacen necesario tomarla como “un asunto de máxima urgencia, incluso por parte de aquellos a los que no les preocupa la tecnología y que creen que las cuestiones políticas más relevantes conciernen a la supervivencia de la democracia o la distribución justa de la riqueza”.