“Los deepfakes son una herramienta peligrosa, porque pueden engañar, manipular y golpear a cualquiera. Yo puedo defenderme. Muchos otros no”. Así describió la primera ministra italiana Giorgia Meloni una imagen creada con inteligencia artificial que la mostraba en lencería y que se viralizó en redes sociales. Como ella, otras mujeres famosas como Taylor Swift, Scarlett Johansson, Emma Watson o la congresista estadounidense Alexandria Ocasio-Cortez han sido utilizadas sin su consentimiento en contenidos pornográficos o sexualizados creados con IA.

Este tipo de imágenes y vídeos se ha convertido en una práctica cada vez más extendida. Un análisis de The Guardian señala que cerca de 4.000 celebridades han sido víctimas de porno deepfake y, según la empresa de ciberseguridad Security Hero, el 99% de las personas afectadas son mujeres. Liliana Arroyo, investigadora de ESADE, explicó a Maldita.es que los deepfakes nacen en 2017 con la intención de usarlos en un “formato pornográfico”: “Cogieron la cara de una celebridad y la pusieron en una escena pornográfica, y ahí es cuando se empezó a difundir”.  

La difusión de estos contenidos puede llegar a alcanzar millones de visualizaciones. En enero de 2024 circularon en X imágenes sexualmente explícitas generadas con IA de Taylor Swift. Una de las publicaciones llegó a acumular 45 millones de visualizaciones antes de que la cuenta fuera suspendida. Ese mismo año, Forbes detectó que en plataformas como eBay se vendían miles de imágenes pornográficas creadas con IA de famosas como Margot Robbie, Selena Gomez y Jenna Ortega.

Las políticas también se han convertido en objetivo habitual. Una investigación de The American Sunlight Project identificó más de 35.000 deepfakes pornográficos de 26 miembros del Congreso de Estados Unidos, de los que 25 eran de mujeres. Entre las víctimas recurrentes está Alexandria Ocasio-Cortez, sobre la que circulan imágenes y vídeos manipulados creados con IA.

La creación de este tipo de contenidos es cada vez más sencilla. Bots de Telegram, aplicaciones móviles, webs para “desnudar” imágenes y herramientas de generación de imágenes con IA permiten crear vídeos o fotografías falsas en pocos clics. Investigaciones de WIRED, Forbes o NBC News muestran que algunas de estas plataformas cuentan con millones de usuarios, venden contenido personalizado y se promocionan en redes sociales como Instagram, Facebook, TikTok o Discord utilizando imágenes manipuladas de mujeres famosas.

Además del impacto en internet, estos contenidos pueden tener consecuencias legales y personales. En España, expertos en privacidad y derechos digitales señalan que el uso de la imagen de una persona sin consentimiento para crear deepfakes puede vulnerar derechos como el honor y la propia imagen. También puede afectar a la salud mental de las víctimas, que pueden desarrollar ansiedad, culpa o trastornos de la conducta alimentaria relacionados con su imagen corporal.