Tras la publicación de la investigación “TikTok, el hogar del pederasta”, la plataforma ha comenzado a bloquear búsquedas que hasta ahora permitían encontrar contenido de abuso sexual infantil. Los cambios se aplicaron primero en España, pero Maldita.es comprobó que los mismos términos seguían funcionando en otros países. Ahora, TikTok ha extendido las restricciones a nivel mundial.Following the publication of the investigation “TikTok, home to predators”, the platform has begun blocking searches that had previously made child sexual abuse material easy to find. The changes were first introduced in Spain, but Maldita.es found that the same terms continued to work in other countries. TikTok has now extended the restrictions worldwide.
TikTok empieza a bloquear búsquedas que conducían a material de abuso sexual infantilTikTok begins blocking searches that led to child sexual abuse material
Tras la publicación, el 9 de noviembre, de la investigación “TikTok, el hogar del pederasta”, TikTok ha modificado sus filtros de búsqueda para restringir al menos dos términos que los pederastas utilizaban para localizar, intercambiar y comercializar material de abuso sexual infantil dentro de la plataforma.Following the publication on 9 November of the investigation “TikTok, home to predators”, TikTok has changed its search filters to restrict at least two terms that pedophiles were using to locate, exchange and trade child sexual abuse material on the platform.
Maldita.es ha comprobado que, al introducir determinados términos en el buscador, TikTok ya no muestra los resultados que aparecían anteriormente y, en su lugar, presenta un mensaje de advertencia relacionado con el abuso sexual infantil.Maldita.es has found that, when certain terms are entered in the search bar, TikTok no longer displays the results that appeared previously. Instead, it shows a warning message relating to child sexual abuse.
La plataforma introdujo inicialmente estas restricciones en España, después de la publicación de la investigación. Sin embargo, las mismas búsquedas continuaban funcionando en otros países. Tras comprobar estas diferencias y señalar que TikTok disponía de las herramientas técnicas necesarias para bloquearlas, las restricciones se han extendido también fuera de España.The platform initially introduced these restrictions in Spain following the publication of the investigation. However, the same searches continued to work in other countries. After identifying these differences and pointing out that TikTok had the technical tools needed to block them, the restrictions were extended beyond Spain too.
Este cambio demuestra que TikTok sí tiene capacidad para intervenir sobre búsquedas que facilitan el acceso a material de abuso sexual infantil. La pregunta es por qué no lo había hecho antes.This change shows that TikTok is capable of intervening in searches that facilitate access to child sexual abuse material. The question is why it had not done so before.
Lo que TikTok mostraba hasta ahora: niños con los ojos vendados, en situaciones íntimas con adultos y centenares de cuentas de venta de material de abuso sexual infantilWhat TikTok had been showing until now: blindfolded children, in intimate situations with adults, and hundreds of accounts selling child sexual abuse material
Como ya contamos en nuestra anterior investigación, CP son las siglas de Child Pornography (en español, pornografía infantil) y, para intentar saltarse los sistemas de moderación de las plataformas, los pedófilos hacen variaciones de las mismas. La más recurrente y la más conocida es ‘Cheese Pizza’, con su abreviatura de uso “pizza” a secas, junto con el uso del emoji de la pizza.As we explained in our previous investigation, CP stands for Child Pornography and, in an attempt to evade platforms’ moderation systems, pedophiles use variations of the term. The most common and best-known is ‘Cheese Pizza’, often shortened to simply ‘pizza’, alongside the use of the pizza emoji.
Lo lógico sería pensar que un código tan evidente estaría controlado en el buscador de TikTok. Mientras que “CP” sí despliega una advertencia en TikTok que alerta de que el término “puede estar relacionado con contenido de menores de carácter sexual”, hasta ahora la plataforma no reaccionaba igual cuando buscabas pizza seller (vendedores de pizza en inglés), a diferencia de las plataformas de Meta, que sí tenían moderada esa búsqueda. Este era el resultado que arrojaba TikTok cuando buscabas pizza seller antes del 10 de noviembre con una cuenta entrenada como un pederasta: todos esos usuarios son vendedores de material de abuso sexual infantil.It would be reasonable to assume that such an obvious code would be monitored in TikTok’s search engine. While searching for “CP” does trigger a TikTok warning stating that the term “may be associated with sexual content involving minors”, until now the platform did not respond in the same way when users searched for “pizza seller” (a term used by sellers of “pizza”), unlike Meta’s platforms, which did moderate that search. This is what TikTok returned when “pizza seller” was searched before 10 November using an account configured to behave like that of a pedophile: all those users were sellers of child sexual abuse material.
Lo mismo nos pasa con el término VGK, el otro término que ha limitado: el término VGK, siglas de Video Gay Kids, lleva años vinculado a redes de compraventa de material de abuso sexual infantil, especialmente de niños varones, desde que en 2017 la policía indonesia desarticuló una red internacional que utilizaba esta denominación para comercializar imágenes y vídeos de abusos sexuales contra menores.The same applies to VGK, the other term it has restricted. VGK, which stands for Video Gay Kids, has been associated for years with networks trading child sexual abuse material, particularly involving boys. This dates back to 2017, when Indonesian police dismantled an international network that used the term to trade images and videos of sexual abuse involving minors.
A pesar de ser un término conocido, el buscador de TikTok arroja resultados explícitos de abuso de menores directamente entre los vídeos populares. En el caso de las plataformas de Meta, sí existen algunos resultados, pero no vinculados al ecosistema pederasta.Despite being a known term, TikTok’s search engine returns explicit child abuse material directly among its popular videos. On Meta’s platforms, some results do appear, but they are not linked to the pedophile ecosystem.
El 10 de noviembre, un día después de la publicación, Maldita.es detectó que TikTok había restringido en España búsquedas como las de los términos VGK y pizza sellers. Sin embargo, en Francia, Suiza, México y Colombia, entre otros países, esas mismas búsquedas seguían disponibles y conduciendo a contenido relacionado con el abuso sexual infantil. La diferencia entre países evidenciaba que el problema no era exclusivamente técnico: TikTok había demostrado que podía restringir esas búsquedas, pero no había aplicado las mismas medidas en todos los territorios. En la madrugada del 11 de noviembre más países empezaron a verse afectados por el cambio.On 10 November, one day after publication, Maldita.es found that TikTok had restricted searches for terms such as VGK and “pizza sellers” in Spain. However, in France, Switzerland, Mexico and Colombia, among other countries, the same searches were still available and led to content related to child sexual abuse. The differences between countries showed that the problem was not purely technical: TikTok had demonstrated that it could restrict these searches, but had not applied the same measures in every territory. In the early hours of 11 November, more countries began to be affected by the change.
Lo que falta: bloquear dos términos de búsqueda no acaba con las redes de abuso sexual infantil en TikTokWhat is still missing: blocking two search terms will not put an end to child sexual abuse networks on TikTok
Bloquear dos términos de búsqueda es un avance, pero está muy lejos de solucionar el problema que ha documentado Maldita.es. Los fallos en la protección de los menores son sistémicos y afectan al propio diseño y funcionamiento de TikTok, desde sus algoritmos de recomendación hasta sus sistemas de moderación, verificación de edad y monetización.Blocking two search terms is a step forward, but it is a long way from solving the problem documented by Maldita.es. Failures in child protection are systemic and affect TikTok’s very design and operation, from its recommendation algorithms to its moderation, age-verification and monetisation systems.
Como hemos explicado en nuestra investigación sobre el fracaso sistémico de TikTok, los pederastas están aprovechando las 11 áreas que el artículo 35 del Reglamento de Servicios Digitales de la Unión Europea (DSA) identifica como ámbitos en los que las grandes plataformas pueden actuar para reducir los riesgos sistémicos.As we explained in our investigation into TikTok’s systemic failure, pedophiles are exploiting the 11 areas identified in Article 35 of the European Union’s Digital Services Act (DSA) as areas in which large platforms can act to reduce systemic risks.
No basta con impedir que los usuarios encuentren determinados contenidos: TikTok tiene que evitar que esos contenidos estén disponibles y que sus propias herramientas contribuyan a difundirlos. La investigación ha demostrado que:It is not enough to stop users finding certain content: TikTok must prevent that content from being available in the first place and ensure that its own tools do not help to spread it. The investigation has shown that:
- Sus sistemas de moderación no funcionan eficazmente: de 50 vídeos con material explícito de abuso sexual infantil denunciados por Maldita.es, TikTok solo eliminó cinco y bloqueó otros 13 únicamente en España.Its moderation systems are ineffective: of 50 videos containing explicit child sexual abuse material reported by Maldita.es, TikTok removed only five and blocked a further 13 in Spain alone.
- Sus algoritmos amplifican el contenido: en 17 de 20 inicios de sesión, TikTok mostró material de abuso sexual infantil en el primer vídeo, y sus sistemas de recomendación sugerían cuentas y publicaciones relacionadas.Its algorithms amplify the content: in 17 out of 20 logins, TikTok displayed child sexual abuse material in the first video, and its recommendation systems suggested related accounts and posts.
- Sus mecanismos de verificación de edad no protegen a los menores: la plataforma permite que niños y niñas realicen emisiones en directo pese a prohibirlas a menores de 18 años, exponiéndolos al acoso sexual de adultos.Its age-verification mechanisms do not protect children: the platform allows children to livestream despite prohibiting livestreaming by under-18s, exposing them to sexual harassment by adults.
- Sus herramientas de monetización permiten obtener ingresos a partir de estas situaciones: los adultos ofrecen regalos virtuales a menores a cambio de determinadas conductas sexualizantes, y TikTok obtiene una comisión por esos regalos.Its monetisation tools allow people to make money from these situations: adults offer virtual gifts to children in exchange for certain sexualising behaviours, and TikTok takes a commission on those gifts.
- Sus mecanismos de detección no identifican redes que operan abiertamente: miles de perfiles utilizan la plataforma para solicitar, intercambiar y comercializar material de abuso sexual infantil, a menudo derivando a los usuarios a otras aplicaciones de mensajería.Its detection systems fail to identify networks operating openly: thousands of profiles use the platform to solicit, exchange and trade child sexual abuse material, often directing users to other messaging apps.
El problema no se resuelve eliminando unas palabras del buscador ni retirando unas cuantas publicaciones después de que una investigación periodística las denuncie. TikTok debe revisar sus sistemas de detección, moderación, recomendación y protección de menores para impedir que sus herramientas sigan siendo utilizadas para facilitar el abuso sexual infantil.The problem cannot be solved by removing a few words from the search engine or taking down a handful of posts after a journalistic investigation has reported them. TikTok must review its detection, moderation, recommendation and child-protection systems to prevent its tools from continuing to be used to facilitate child sexual abuse.
