Esta es una investigación de Maldita.es sobre la creación con IA de imágenes de niñas y adolescentes sexualizadas y el robo de contenido creado por menores reales en Tiktok y cómo sirve de plataforma de acceso a pornografía infantil real y generada con inteligencia artificial. Hemos identificado 40 cuentas que acumulan más de 1,5 millones de seguidores. Más de 5.200 vídeos generados con IA y 3.600 vídeos de menores reales.
Esto es lo que hemos encontrado:
NIÑAS Y ADOLESCENTES SEXUALIZADAS EN TIKTOK GENERADAS CON IA: decenas de cuentas crean videos sexuales de menores en TikTok con Inteligencia Artificial generativa.
COMENTARIOS EXPLÍCITOS: los vídeos están llenos de comentarios como “tienen que aprender tarde o temprano”, “hasta el fondo”, o imágenes sexualmente explícitas de lo que harían con esas niñas.
LOS VIDEOS DE TU HIJA BAILANDO TAMBIÉN SON PARTE DE ESE MATERIAL: hay usuarios que republican videos subidos por menores a TikTok para ponerlos a disposición de otros usuarios agregados en un mismo lugar. También se llenan de comentarios explícitos.
USUARIOS (Y TIKTOK) GANAN DINERO CON ELLO: utilizando los sistemas de suscripción de TikTok o vendiendo pornografía infantil creada con IA en webs externas a la plataforma.
- TikTok recibe hasta un 50% de los beneficios de las suscripciones.
EL ALGORITMO SABE LO QUE LE GUSTA AL PEDÓFILO: TikTok favorece que se acceda a estos contenidos y los recomienda en el feed y en el buscador.
TIKTOK LO PROHÍBE, PERO NO APLICA SUS PROPIAS NORMAS: dicen no permitir “cuentas centradas en imágenes de IA de jóvenes con atuendos para adultos, o poses o expresiones faciales sexualizadas” y “sexualizar o fetichizar a un menor”.
- Hemos denunciado 15 cuentas que compartían vídeos de menores sexualizadas generados con IA: para Tiktok, sólo una incumple sus políticas y todas seguían accesibles 72 horas después.
- La Ley de Servicios Digitales (DSA) obliga a TikTok a evaluar si sus funciones suponen riesgos para los menores.
UNA PUERTA A LA COMPRA E INTERCAMBIO DE PORNOGRAFÍA INFANTIL: en los comentarios de estas publicaciones de TikTok hay usuarios que publicitan sus cuentas de Telegram en las que venden pornografía infantil y abusos de menores reales.
- Hemos identificado 12 cuentas de Telegram que venden material ilegal.
- 7 nos enviaron pruebas de que tienen pornografía de menores reales. Maldita.es lo ha denunciado en la Policía Nacional.
En Maldita.es hemos publicado una segunda parte de esta investigación sobre cómo TikTok se ha vuelto un bufé libre para pedófilos que buscan ‘cazar’ a menores. Hemos analizado sus estrategias para captar a menores de edad y comprobamos cómo los sistemas de protección de TikTok no funcionan.