TikTok estuvo de acuerdo con el 99% de nuestras denuncias de abuso sexual infantil en su plataforma, pero mantuvo las cuentas activas en contra de sus propias políticas

¿Cuántas veces tiene un usuario de TikTok que ofrecer o solicitar material de abuso sexual infantil (CSAM, por sus siglas en inglés) para ser expulsado de la plataforma? Al parecer, más de una vez. Como parte de nuestra investigación “Depredadores en TikTok 2: Un bufé libre para más de 1.300 pedófilos”, descubrimos miles de comentarios en videos de niños que ofrecían "cambiar", "regalar" o solicitaban activamente imágenes sexuales a menores de tan sólo 8 años. Denunciamos más de cien de estos comentarios a TikTok por ser ilegales: si bien la plataforma eliminó el 99%, prácticamente todas las cuentas responsables (96%) permanecieron activas, pudiendo continuar haciendo lo mismo.

Aunque muchas plataformas cuentan con sistemas de advertencia para castigar a los usuarios que infringen repetidamente sus normas, no parece razonable que quienes promueven material ilegal de abuso sexual infantil tengan segundas oportunidades. TikTok está de acuerdo en esto: la plataforma global más popular para adolescentes declara que aplica "prohibiciones permanentes tras la primera advertencia por infracciones graves, incluyendo mostrar o facilitar CSAM". Por alguna razón, esta política no se aplicó en este caso.

“Calificar” y ofrecer imágenes sexuales de menores

En videos y comentarios, cientos de usuarios ofrecen “calificar” imágenes sexuales de menores. A menudo especifican que buscan desnudos de grupos de edad concretos, como “hombres de 12 años”, “sólo 13 años o menos” o “de 8 a 10”. La mayoría utiliza ligeras variaciones en su redacción, probablemente para evitar los sistemas de moderación automática de TikTok. Por ejemplo, emplean palabras como “decks” en lugar de “dicks” para referirse a los genitales masculinos, y muchos mensajes dicen “hombres de 1.2”, “solo 12+1 años o menos” o “de 8 a 1/0”. Sin embargo, algunos usuarios lo hacen abiertamente.

Otros usuarios no solicitan, sino que ofrecen imágenes que constituyen material de abuso sexual infantil. Cientos de comentarios ofrecen "regalar" o cambiar material de abuso sexual infantil de tipos específicos en videos de menores que parecen ser menores de 13 años ("cambio forzadas", "cambio dormido") e incluso declaran producir el contenido ellos mismos ("tengo sobrina fotos cambio", "vendo de mi hermana pequeña", "tengo propio hecho en casa").

Estos usuarios se conectan con otros pedófilos en la sección de comentarios de vídeos de TikTok que muestran a menores y luego se trasladan a plataformas de mensajería privada como Telegram, Signal o Zangi. Los videos y comentarios que ofrecen o solicitan material de abuso sexual infantil suelen ir acompañados de códigos QR u otros medios para acceder a esos servicios, a pesar de que las Normas de la Comunidad de TikTok prohíben las "invitaciones a realizar actos sexuales, conectarse fuera de la plataforma o compartir imágenes explícitas".

Otro ejemplo relevante de esto son las cuentas, comentarios y videos de TikTok que promueven enlaces y códigos QR que conducen a los autodenominados "grupos hormonales": chats grupales en plataformas de mensajería cifrada, principalmente WhatsApp, donde se comparte contenido sexual explícito que involucra a menores.

Estos grupos captan a menores para incitarlos a compartir imágenes de contenido sexual. Para comprobar si la prohibición de TikTok sobre las invitaciones fuera de la plataforma se estaba aplicando de forma efectiva, denunciamos 40 vídeos que incluían referencias a dichos enlaces o imágenes de códigos QR. Nos encontramos que TikTok dejó el 70% de ellos online tras determinar que no infringían sus normas. Sólo esos 40 vídeos acumularon más de 290.000 me gusta y las cuentas que los crearon tenían más de 70.000 seguidores.

Peligroso e ilegal 

El tipo de contenido que encontramos durante esta investigación está claramente extendido y es peligroso para los menores. De los miles de vídeos y comentarios que identificamos que solicitaban imágenes sexuales para "calificar", sólo 20 acumularon más de 1,5 millones de visualizaciones y cientos de comentarios que solicitaban activamente material sexual explícito con menores. En 50 vídeos de menores que aparentan ser menores de 13 años, encontramos más de 1.300 comentarios de usuarios que ofrecían o solicitaban material sexualmente explícito. Esto, por supuesto, infringe las Normas de la Comunidad de TikTok, pero, sobre todo, es un delito en la mayoría de las jurisdicciones, sin duda lo es en España, desde donde realizamos la investigación.

El artículo 189 del Código Penal español establece penas de prisión para “quien capte o utilice a menores para elaborar cualquier tipo de material pornográfico” y para “quien produzca, venda, distribuya, exhiba, ofrezca o facilite la producción, venta, difusión o exhibición por cualquier medio de pornografía infantil”. El hecho de que este contenido esté ampliamente disponible y sea popular en la plataforma entra en conflicto con las obligaciones legales de TikTok de acuerdo con el Reglamento de Servicios Digitales de la Unión Europea.

TikTok debe actuar “con prontitud para retirar o bloquear el acceso” a contenido ilegal una vez tenga conocimiento de que este exista, o de lo contrario será considerado responsable. Asimismo, debe informar a las autoridades policiales o judiciales sobre cualquier sospecha de delito que amenace la vida o la seguridad de una persona y proporcionar toda la información pertinente. Más importante aún, como servicio designado oficialmente como “plataforma en línea de gran tamaño” en la UE, TikTok debe contar con medidas de mitigación razonables, proporcionadas y efectivas contra la difusión de contenido ilegal a través de sus servicios, algo que nuestros hallazgos ponen en entredicho.