Las tiendas de aplicaciones Play Store de Google y App Store de Apple ofrecen alrededor de 50 ‘apps’ cada una que permiten generar desnudos mediante inteligencia artificial (IA), pese a que sus políticas lo prohíben.
Una investigación de la organización Tech Transparency Project (TTP) reveló que, a pesar de las crecientes polémicas sobre la generación de imágenes explícitas con IA, empresas como Google y Apple aún alojan este tipo de aplicaciones en sus plataformas.
En concreto, se identificaron 55 aplicaciones de este tipo en la Play Store y 47 en la App Store. Entre ellas, la más popular es Grok, el ‘chatbot’ de X (antes Twitter), que generó miles de imágenes explícitas en la red social, incluidas algunas de menores de edad.
Para localizar estas aplicaciones, TTP explicó que solo escribieron “nudify” y “undress” (desnudar) en las barras de búsqueda de las tiendas. Las ‘apps’ se dividen en dos categorías: las que usan IA para generar imágenes y vídeos a pedido del usuario, y las que crean ‘deepfakes’, superponiendo la cara de una persona sobre el cuerpo de otra.
Entre las más descargadas estaba DreamFace, con más de 10 millones de instalaciones, que permitía generar avatares o vídeos de baile mediante IA. Para probarla, TTP utilizó la opción gratuita de generar un vídeo diario, subió la imagen de una chica en una cafetería y le pidió a la aplicación que creara un vídeo de ella bailando y quitándose la blusa, sin nada debajo. La ‘app’ cumplió la solicitud sin restricciones, pese a que sus condiciones de servicio prohiben contenido “sexualmente explícito”.
Cabe destacar que, dicha app estaba disponible para mayores de 13 años en la Play Store y para mayores de 9 en la App Store, lo que permitía que menores pudieran generar desnudos sin impedimentos.
El total de descargas de estas aplicaciones asciende a 705 millones, generando 117 millones de dólares (cerca de 98 millones de euros), según un análisis de AppMagic citado por TTP. Aunque Google y Apple aseguran prohibir las aplicaciones “nudify”, la organización denuncia que terminan lucrándose con ellas.
La presencia de estas aplicaciones contrasta con las políticas de ambas tiendas sobre contenidos inapropiados: Google prohíbe apps que contengan contenido sexual, como pornografía o desnudos sin consentimiento. Apple, por su parte, rechaza aplicaciones con material “abiertamente pornográfico” o que difundan contenidos difamatorios.
Tras la publicación del informe, tanto Google como Apple solicitaron a TTP la lista de aplicaciones que generaban desnudos. Apple comunicó a CNBC que ya había eliminado 28 ‘apps’, mientras que un portavoz de Google indicó que se habían suspendido varias aplicaciones, que finalmente sumaron 31 según TTP.
Estas regulaciones se suman a las de plataformas como X, que, tras las investigaciones anunciadas por gobiernos e instituciones, limitó la función de generación de imágenes de Grok.
*Con información de Europa Press