Esta es una investigación de Maldita.es sobre la creación con IA de imágenes de niñas y adolescentes sexualizadas y el robo de contenido creado por menores reales en Tiktok y cómo sirve de plataforma de acceso a pornografía infantil real y generada con inteligencia artificial. Hemos identificado 40 cuentas que acumulan más de 1,5 millones de seguidores. Más de 5.200 vídeos generados con IA y 3.600 vídeos de menores reales.
Esto es lo que hemos encontrado:
NIÑAS Y ADOLESCENTES SEXUALIZADAS EN TIKTOK GENERADAS CON IA: decenas de cuentas crean videos sexuales de menores en TikTok con Inteligencia Artificial generativa.
COMENTARIOS EXPLÍCITOS: los vídeos están llenos de comentarios como “tienen que aprender tarde o temprano”, “hasta el fondo”, o imágenes sexualmente explícitas de lo que harían con esas niñas.
LOS VIDEOS DE TU HIJA BAILANDO TAMBIÉN SON PARTE DE ESE MATERIAL: hay usuarios que republican videos subidos por menores a TikTok para ponerlos a disposición de otros usuarios agregados en un mismo lugar. También se llenan de comentarios explícitos.
USUARIOS (Y TIKTOK) GANAN DINERO CON ELLO: utilizando los sistemas de suscripción de TikTok o vendiendo pornografía infantil creada con IA en webs externas a la plataforma.
- TikTok recibe hasta un 50% de los beneficios de las suscripciones.
EL ALGORITMO SABE LO QUE LE GUSTA AL PEDÓFILO: TikTok favorece que se acceda a estos contenidos y los recomienda en el feed y en el buscador.
TIKTOK LO PROHÍBE, PERO NO APLICA SUS PROPIAS NORMAS: dicen no permitir “cuentas centradas en imágenes de IA de jóvenes con atuendos para adultos, o poses o expresiones faciales sexualizadas” y “sexualizar o fetichizar a un menor”.
- Hemos denunciado 15 cuentas que compartían vídeos de menores sexualizadas generados con IA: para Tiktok, sólo una incumple sus políticas y todas seguían accesibles 72 horas después.
- La Ley de Servicios Digitales (DSA) obliga a TikTok a evaluar si sus funciones suponen riesgos para los menores.
UNA PUERTA A LA COMPRA E INTERCAMBIO DE PORNOGRAFÍA INFANTIL: en los comentarios de estas publicaciones de TikTok hay usuarios que publicitan sus cuentas de Telegram en las que venden pornografía infantil y abusos de menores reales.
- Hemos identificado 12 cuentas de Telegram que venden material ilegal.
- 7 nos enviaron pruebas de que tienen pornografía de menores reales. Maldita.es lo ha denunciado en la Policía Nacional.