El gobierno de Alemania avanza en una nueva ofensiva legislativa para frenar la creación y difusión de contenidos falsos generados con inteligencia artificial, especialmente aquellos de carácter sexual. La medida busca cerrar vacíos legales frente a una tecnología que ha evolucionado más rápido que las normas, al tiempo que pone en la mira herramientas digitales asociadas a figuras como Elon Musk.
Un caso mediático que impulsó el debate
En Alemania, el tema de los “deepfakes” cobró relevancia tras las acusaciones públicas de la actriz y presentadora Collien Fernandes, quien aseguró que su exmarido, el actor Christian Ulmen, difundió en internet videos falsos de ella con contenido pornográfico.
Einfach unfassbar schrecklich. Collien Fernandes berichtet über virtuell sexuelle Ausbeutung. pic.twitter.com/JMvoQpuOzq
— Dirk Dre.🎗 (@dregenus) March 19, 2026
El caso puso en evidencia los vacíos legales existentes frente a este tipo de prácticas, que combinan manipulación digital y daños a la reputación, y aceleró el debate político en torno a la necesidad de nuevas regulaciones.
Nueva ley para castigar contenidos falsos y proteger a las víctimas
En el futuro, este tipo de actos serán “explícitamente” sancionables penalmente gracias a una nueva ley, aseguró el viernes la ministra alemana de Justicia, Stefanie Hubig, al semanario Der Spiegel.
Más allá de las imágenes pornográficas, la ministra quiere abarcar todos los contenidos falsos “que atenten contra los derechos de los individuos”.
“Algunas de estas imágenes se utilizan para herir a las personas. Otras tienen como objetivo difamar a las víctimas o difundir mentiras. No lo aceptaremos”, declaró.
La iniciativa también incluiría medidas contra el llamado “voyeurismo digital”, es decir, grabaciones “de carácter sexual” realizadas en espacios públicos sin consentimiento. Además, la protección de las víctimas será un eje central, incluyendo herramientas para identificar a los responsables detrás de perfiles falsos y sanciones como la pérdida de acceso a sus cuentas.
Inteligencia artificial y redes sociales bajo presión
Las redes sociales están cada vez más inundadas de videos manipulados hiperrealistas de personalidades políticas y celebridades, lo que ha encendido las alarmas en Europa.
Una de las herramientas que más han estado en polémica por temas de sexualizar contenido e imágenes sin permiso es Grok, la inteligencia artificial de Elon Musk, la cual cuenta con aplicación propia pero también se encuentra integrada en X. A través de imágenes subidas, los usuarios podían sexualizar contenido en cuestión de segundos, aunque la plataforma ha tomado medidas, la discusión continúa.
Europa busca cerrar el cerco a estas tecnologías
El miércoles, los eurodiputados aprobaron en comisión un texto para prohibir los servicios de inteligencia artificial que permitan desnudar a personas sin su consentimiento, en una señal clara de que el debate trasciende las fronteras de Alemania.
La ministra también declaró que no existe “ninguna diferencia entre la violencia en la vida real y la violencia digital”, que puede tener efectos “igual de devastadores”.
*Con información de AFP.