MENÚ
“Besa a tu crush cuando quieras”, “abraza a tu celebridad favorita”, “esta aplicación increíble puede borrar lo que sea”. Con mensajes como estos se anuncian en Instagram, Facebook y TikTok apps que permiten, con unos clics, crear deepfakes (vídeos que suplantan la identidad) o imágenes con IA que sexualizan a personas desnudándolas, representándolas con ropa reveladora o haciendo que besen y abracen a otras personas. Gran parte de estos anuncios usan imágenes de personas famosas, principalmente mujeres, como Emilia Clarke y Scarlett Johansson, que son blanco habitual de estos contenidos, sin su consentimiento. También los hay de personas que parecen haber sido creadas con inteligencia artificial y otras que parecen reales.
En Maldita.es analizamos una campaña de 150 anuncios en Instagram, Facebook y Facebook Messenger de Meta, que promociona una app que permite, entre otras cosas, crear deepfakes de hasta tres personas besándose sobre una cama. Meta justificó en la revista Forbes que permiten vídeos de besos y abrazos. Por otro lado, también detectamos anuncios en TikTok que contienen vídeos creados con IA de famosas besándose, aunque las políticas de anuncios de la plataforma prohíben usar la imagen de alguien sin su consentimiento.
Estas redes sociales, que deben cumplir con la Ley de Servicios Digitales (DSA) de la Unión Europea, no son responsables de los contenidos de los usuarios, a menos que tengan conocimiento de que estos circulan e infringen sus normas, explican los abogados consultados por Maldita.es. Si nos encontramos con un anuncio que incumpla las políticas de estas plataformas, podemos denunciarlo para que sepan de su circulación.
En Facebook e Instagram hay anuncios que usan a famosas para promocionar apps para crear vídeos de besos y abrazos, representar a personas con ropa reveladora y desnudarlas
En las redes sociales de Meta, Instagram y Facebook, circulan anuncios que usan la imagen de famosas para promocionan aplicaciones para crear con IA vídeos o imágenes que pueden usarse para sexualizar a personas sin su consentimiento.
Maldita.es ha detectado una campaña de 150 anuncios en Instagram, Facebook y Facebook Messenger (el 18 de febrero de 2025) que promociona una aplicación que permite, entre otras cosas, crear vídeos de personas besándose sobre una cama (incluso de tres personas), quitarle la camiseta a alguien para ponerles un torso musculoso (incluso a bebés, como muestra uno de los anuncios) y hacer que dos personas se abracen. Los anuncios están programados para circular en todo el mundo en distintos idiomas, como español, inglés y turco. En la aplicación, pudimos identificar que la previsualización de una de las funciones ofrece la posibilidad de quitar prendas de ropa o poner en bikini imágenes de mujeres.
Algunos de los anuncios detectados usan imágenes de mujeres famosas, como las actrices Emilia Clarke, Alexandra Daddario y Scarlett Johansson (que acaba de ser víctima de nuevo de un deepfake y lo ha denunciado públicamente), para promocionar la función de crear vídeos de personas besándose. Dos anuncios ponen a la pareja de actores Zendaya y Tom Holland en distintos vídeos sobre una cama con pétalos de rosas.
Hay más anuncios de este tipo que han circulado en las plataformas de Meta. Alexios Mantzarlis, autor de la newsletter Faked Up y director de la Iniciativa de Seguridad, Confianza y Protección de Cornell Tech, descubrió que una aplicación para desnudar imágenes publicó 8.010 anuncios en Facebook e Instagram en las primeras dos semanas de enero de 2025. Algunos de estos anuncios mostraban a Mikayla Demaiter, exjugadora de hockey y modelo, y a Sophie Rain, modelo de OnlyFans, desnudas. Estos anuncios circularon en las redes sociales de Meta pese a que prohíben el contenido sexual, creado por IA o no.
Un análisis de Forbes detectó en Instagram, Facebook y TikTok más de 2.500 anuncios que mostraban a actrices como Scarlett Johansson, Emma Watson y Gal Gadot besándose para promocionar apps que crean vídeos con IA de personas besándose. Daniel Roberts, portavoz de Meta, señaló a la revista que estas aplicaciones no violan las políticas de la compañía. La empresa no permite la desnudez, el contenido sexualmente explícito ni sexualmente sugerente en sus normas de anuncios y tampoco anuncios que "muestren, defiendan o coordinen actos sexuales con partes que no consientan", pero sí permiten vídeos de besos y abrazos.
En TikTok también se promocionan estas apps con imágenes de famosos, pero la red social prohíbe el uso de la imagen de alguien en anuncios sin su consentimiento
Como estos anuncios detectados en el análisis de Forbes, hay muchos otros circulando en TikTok. En la biblioteca de anuncios de la red social, Maldita.es detectó un anuncio que circuló entre el 14 de enero y el 18 de febrero de 2025 que muestra a las actrices Sofía Vergara y Julie Bowen besándose gracias a una de estas aplicaciones. El anuncio alcanzó, según TikTok, a una audiencia estimada de entre 200.000 a 300.000 usuarios.
Otro que circuló entre el 14 de enero y el 19 de febrero de 2025, muestra a las actrices Kat Dennings y Beth Behrs besándose y alcanzó una audiencia de entre 10.000 y 100.000 cuentas, según la biblioteca de anuncios. Otros anuncios que circularon en TikTok incluyen a Sidney Sweeney besándose con un hombre y a Selena Gómez dándose un beso con Hailey Bieber.
La portavoz de TikTok, Ariane de Selliers, indicó a Forbes que la plataforma exige a los anunciantes el consentimiento de las figuras públicas y privadas representadas en sus anuncios, incluso si estos son generados con IA. Esto se confirma en las políticas de anuncios de la red social, que indican que los medios manipulados o sintéticos en anuncios que contengan la imagen o audio de una persona real deben contar con el consentimiento de ella para ser utilizados.
Las redes sociales donde se promocionan, que deben cumplir con la DSA, son responsables si saben que este contenido circula y no lo retiran
En España, la creación de contenidos con IA que representan personas en actos sexuales, las desnudan o sexualizan sin su consentimiento vulnera los derechos al honor y la imagen, y puede constituir un delito de injurias. A día de hoy, la responsabilidad recae sobre los usuarios que crean estos contenidos, no sobre las herramientas que permiten crearlos. Estas no son ilegales en sí mismas, pero su comercialización puede considerarse ilícita si no cumple con la ley europea de IA, según los abogados consultados por Maldita.es.
Ahora, ¿cuál es la responsabilidad de las redes sociales donde se promocionan? Después de que imágenes sexualmente explícitas creadas con IA de la cantante estadounidense Taylor Swift circularon en X en enero de 2024, el Parlamento Europeo recibió una pregunta sobre los mecanismos que existen en la UE para combatir estos contenidos. En su respuesta, el excomisario europeo de Mercado Interior Thierry Breton indicó que la Ley de Servicios Digitales (DSA) “incluye disposiciones para mitigar los riesgos de la creación y difusión de deepfakes en plataformas en línea que operan en la UE”. Sobre esto, señaló que las políticas van “desde la moderación de contenido y mecanismo de notificación hasta sistemas de manejo de quejas”.
En ese sentido, Maite Sanz de Galdeano, abogada experta en protección de datos, explica a Maldita.es que “las plataformas a través de las cuales se difundan o viralicen deepfakes pueden incurrir en responsabilidad si carecen de una política homologable de control de contenidos ilícitos, o si, debidamente requeridas para la retirada del contenido o para introducir advertencias, no lo hacen”.
En conversación con Maldita.es, Maitane Valdecantos, abogada especializada en propiedad intelectual y derechos digitales, incide en que, según la DSA, “las plataformas no son responsables directamente de los contenidos generados o subidos por los usuarios, a menos que se pruebe que tenían conocimiento de la infracción”. Sin embargo, la experta aclara que “el hecho de que no sean responsables automáticamente, no implica que no tengan una serie de obligaciones de colaboración, tanto para facilitar información como para retirar contenidos ilícitos”. De hecho, la abogada indica que pueden enfrentar sanciones, desde multas administrativas hasta la suspensión temporal de su actividad.
Si nos encontramos con este tipo de anuncios, podemos denunciarlos para que las plataformas se enteren de que está circulando. Por ejemplo, en Facebook, Instagram y TikTok podemos hacerlo presionando los tres puntitos junto a la publicación, presionar ‘Denunciar’ y seleccionar el motivo correspondiente.
