{{tp.marcaProvTxt}}{{tp.marcaTradTxt}}[EN PENDIENTE][TRAMO DESTACADO PENDIENTE]{{tp.antes}}{{tp.tramo}}{{tp.despues}}

Esta investigación no empezó con la búsqueda de material explícito de abuso sexual infantil en TikTok. Pero encontramos más de 1.000 vídeos. Esperábamos recopilar algún canal de venta vía TikTok de este tipo de material, como en nuestra investigación anterior. Pero también localizamos otros 1.000. Tampoco creíamos que pudiéramos contactar directamente con los vendedores a través de los mensajes privados de la plataforma. Lo conseguimos con decenas de ellos. Sin el algoritmo de TikTok, nada de esto habría sido posible.

This investigation did not begin with a search for explicit child sexual abuse material on TikTok. Yet we found more than 1,000 videos. We had hoped to identify a sales channel on TikTok for this type of material, as in our previous investigation. But we also found another 1,000. We hadn’t expected to be able to contact the sellers directly via the platform’s private messages. We managed to do so with dozens of them. Without TikTok’s algorithm, none of this would have been possible.

Después de 35 días de investigación, TikTok parece haber llegado a una conclusión sobre nuestra cuenta: queremos consumir contenido sexual de menores. Así que actúa en consecuencia. Nos muestra masivamente cuentas que venden material de abuso sexual infantil en el ‘Para ti’, nos recomienda seguirlas, nos permite mantener conversaciones privadas con sus responsables y empieza a sugerirnos directos protagonizados por niñas. Nuestra cuenta también está siendo recomendada a los vendedores de material de abuso porque varias han empezado a seguirnos sin que hayamos interactuado con ellas nunca. Y, pese a todas estas señales, TikTok no parece detectar nada sospechoso en nuestra actividad.

After 35 days of investigation, TikTok appears to have reached a conclusion about our account: we want to consume sexual content involving minors. So it acts accordingly. It shows us a massive number of accounts selling child sexual abuse material in the ‘For You’ feed, recommends that we follow them, allows us to have private conversations with those running them, and starts suggesting live streams featuring young girls. Our account is also being recommended to sellers of such material, as several of them have started following us without us ever having interacted with them. And, despite all these signs, TikTok does not seem to detect anything suspicious in our activity.

Hay un ejemplo especialmente revelador. En su nueva pestaña ‘Comunidad’, una especie de ‘feed’ temático que la plataforma construye a partir de nuestros intereses, esto es lo que TikTok ha decidido mostrarnos: tres vídeos de niñas y otro de una cuenta que se presenta como un niño de 13 años y pide comparar penes.

There is one particularly telling example. In its new ‘Community’ tab – a sort of themed feed that the platform curates based on our interests – TikTok has recommended the following content to us: three videos of girls, and another from an account that claims to belong to a 13-year-old boy asking to compare penises.

Pero, ¿cómo hemos llegado hasta aquí? ¿Qué hemos tenido que hacer para que el algoritmo aprenda? No ha sido difícil.

How did we get here? What did we have to do to make the algorithm learn? It wasn’t difficult.

Paso 1: encontramos la “pizza”

Step 1: finding the ‘pizza’

Con una cuenta recién creada, al buscar un término ampliamente conocido en los entornos donde se comparte y comercializa este material “pizza”, el buscador de la plataforma ya nos devuelve resultados. 2 de las 10 cuentas que aparecen no venden comida italiana, sino la “pizza” del pederasta.

With a newly created account, when searching for a term widely recognised in the circles where such material is shared and traded –‘pizza’– the platform’s search engine immediately returns results. Two of the ten accounts that appear are not selling Italian food, but rather the predator’s ‘pizza’.

Pero esto cambia rápidamente. El algoritmo empieza a identificar qué tipo de cuentas nos interesan y pronto parece entender qué clase de “pizza” estamos buscando. A partir de ahí, los resultados se transforman. En la cuenta utilizada durante nuestra investigación, las diez primeras cuentas que aparecen ahora al buscar “pizza” ofrecen o intercambian material de abuso sexual infantil. Diez de diez.

But this changes rapidly. The algorithm begins to identify the type of accounts we are interested in and soon seems to understand what sort of “pizza” we are looking for. From that point on, the results transform. On the account used for our investigation, the first ten accounts that now appear when searching for “pizza” offer or exchange child sexual abuse material. Ten out of ten.

Paso 2: El ‘feed’ pasa de contenido sexualizante de menores a material de abuso infantil

Step 2: The feed shifts from sexualised content featuring minors to child abuse material

Ahora que TikTok ya sabe lo que estamos buscando, pasamos de encontrar vídeos de niñas sexualizadas, como ya habíamos documentado en investigaciones anteriores, a detectar los primeros indicios de vídeos de abuso sexual infantil. Fue entonces cuando descubrimos el término ‘VGK’ (Video Gay Kids), que lleva vinculado a material de abuso sexual infantil desde 2017.

Now that TikTok knows what we’re searching for, we’ve moved on from finding videos of sexualised girls – as we’d already documented in previous investigations – to detecting the first signs of child sexual abuse videos. It was then that we discovered the term ‘VGK’ (Video Gay Kids), which has been linked to child sexual abuse material since 2017.

Y aquí encontramos algo todavía más preocupante: el buscador de TikTok sabe qué busca alguien que escribe ‘VGK’, incluso sin tener información previa sobre esa persona. Esta captura corresponde a una búsqueda realizada en una sesión de incógnito, sin historial previo de búsquedas que pudiera condicionar los resultados. ¿Qué nos devuelve TikTok? Vídeos de niños con los ojos vendados y cuentas que ofrecen material de abuso sexual infantil.

And here we found something even more worrying: TikTok’s search engine knows what someone who types ‘VGK’ is looking for, even without any prior information about that person. The following screenshot shows a search done in incognito mode, with no previous search history that might have influenced the results. What does TikTok return? Videos of blindfolded children and accounts offering child sexual abuse material.

A partir de aquí, todo escala. El algoritmo de TikTok empieza a identificar que estamos buscando un tipo de material muy específico y adapta sus recomendaciones en consecuencia, aunque sea material ilegal. Cuando seguimos a una de estas cuentas, la plataforma comienza a sugerirnos otras vinculadas al mismo entorno: perfiles de presuntos pederastas y cuentas dedicadas a la venta e intercambio de material de abuso sexual infantil. Cuanto más avanzamos, más fácil nos lo pone TikTok para encontrar nuevas cuentas.

From this point on, everything escalates. TikTok’s algorithm begins to recognise that we are searching for a very specific type of content and therefore adapts its recommendations accordingly, even if the content is illegal. When we follow one of these accounts, the platform starts suggesting others linked to the same circle: profiles of alleged predators and accounts dedicated to the sale and exchange of child sexual abuse material. The further we go, the easier TikTok makes it for us to find new accounts.

Paso 3: el sistema de recomendación de pederastas

Step 3: The predator recommendation system

Entramos en la fase de la investigación en la que tenemos que contactar a una muestra de los pederastas en TikTok para confirmar que esos perfiles venden material de abuso. Y empezamos a notar un fenómeno: ya no tenemos que salir a buscar a los pederastas. Son ellos los que empiezan a llegar a nosotros.

We’ve reached the stage of the investigation where we need to contact a sample of predators on TikTok to confirm that these profiles are selling child abuse material. And we’ve started to notice something: we no longer have to go and look for the predators. They’re the ones who are starting to reach out to us.

TikTok toma la iniciativa y nos envía una notificación recomendándonos seguir a cuentas de venta de material de abuso sexual infantil.

TikTok takes the initiative and sends us a notification recommending that we follow accounts selling child sexual abuse material.

Aquí notamos un fenómeno sorprendente: algunas de las cuentas que nos ofrece seguir TikTok, ya nos están siguiendo a nosotros. Nuestra cuenta también está siendo recomendada a los vendedores de material de abuso porque varias han empezado a seguirnos sin que hayamos interactuado con ellas nunca. ¿Les aparecemos a los pederastas como posibles clientes a seguir?

Here, we noticed a surprising phenomenon: some of the accounts that TikTok suggests we follow are already following us. Our account is also being recommended to sellers of child abuse material, as several of them have started following us without us ever having interacted with them. Do we appear to predators as potential customers to follow?

Paso 4: Notificaciones de los LIVE de menores

Step 4: Notifications about live streams featuring minors

El algoritmo tiene una función principal: retenernos en la plataforma el mayor tiempo posible. Con lo que sea. Así que aparte de ayudarnos a encontrar cuentas que venden material de abuso; de enseñarnos en el ‘feed’ contenidos cada vez más cercanos al abuso sexual infantil; también nos envía una notificación cuando hay directos que TikTok cree que le pueden gustar al perfil de nuestro pederasta: el directo de una niña. Porque aunque la plataforma diga que los menores de 18 años tienen prohibido hacer TikTok LIVEs, los hacen todos los días.

The algorithm has one main function: to keep us on the platform for as long as possible. By any means necessary. So, in addition to helping us find accounts that sell abusive material and showing us content that is increasingly close to child sexual abuse, it also sends us a notification when there are live streams that TikTok thinks our predator profile might like: a live stream featuring a young girl. Because even though the platform says that under-18s are banned from doing TikTok LIVE streams, they do them every day.

A partir de aquí el ‘feed’ nos enseñó contenidos de potencial abuso en birmano, en ruso, en tailandés…y de abuso explícito.

From this point onwards, the feed showed us content that could potentially be abusive in Burmese, Russian, Thai… and explicitly abusive content.

Paso 5: nuestro ‘feed’ ya es el de un pederasta

Step 5: our feed now looks like a predator’s feed

El 21 de septiembre hicimos una prueba: grabamos 20 inicios de sesión en TikTok para comprobar cuál era el primer vídeo que la plataforma nos mostraba al entrar, antes de que hiciéramos ninguna búsqueda o interactuáramos con ningún contenido. En 17 de los 20 inicios de sesión, el primer vídeo contenía material de abuso sexual infantil, explícito o no explícito.

On 21 September, we put TikTok to the test by recording 20 logins to check which was the first video the platform showed us upon entering, before we had carried out any searches or interacted with any content. In 17 of the 20 logins, the first video contained child sexual abuse material, whether explicit or non-explicit.

Es decir, en el 85% de las ocasiones, TikTok nos recibió con contenido relacionado con el abuso sexual infantil. Ya ni siquiera teníamos que buscarlo. La plataforma nos lo ofrecía nada más entrar.

In other words, on 85 per cent of occasions, TikTok greeted us with content related to child sexual abuse. We didn’t even have to search for it anymore – the platform offered it to us as soon as we logged in.

Después de 35 días buscando material de abuso sexual infantil en TikTok, utilizando una y otra vez términos ampliamente conocidos, contactando por mensaje directo con decenas de cuentas dedicadas a vender este material, viendo miles de vídeos con contenido de abuso explícito o implícito y accediendo a directos protagonizados por niñas, ¿nada de todo esto ha hecho saltar las alarmas de TikTok?

After 35 days of searching for child sexual abuse material on TikTok – repeatedly using widely recognised search terms, contacting dozens of accounts dedicated to selling such material via direct message, watching thousands of videos containing explicit or implicit abuse content, and accessing live streams featuring young girls – did none of this set off any alarm bells for TikTok?

¿De verdad una cuenta con este historial de actividad no resulta sospechosa para los sistemas de detección y prevención del abuso sexual infantil de la plataforma?

Does an account with this track record not appear suspicious to the platform’s child sexual abuse detection and prevention systems?