“Tusi Colombia” y “Tusi Santa Cruz Bolivia”: TikTok nos sugirió búsquedas concretas por ciudades y productos
Si buscamos en TikTok términos como “tusi”, “ketamina” o “insumos”, la red social nos impide acceder a los resultados alegando que “esta frase se puede asociar con actitudes o contenidos que infringen nuestras normas”. Sin embargo, la plataforma se contradice. Después de ver varios vídeos sobre la preparación de esta droga, fue el propio TikTok el que comenzó a sugerirnos búsquedas relacionadas con este mercado negro, como “tussi precio” (sic), “inhalar por la nariz” (sic) o “tusi efectos experiencia” (sic).
En su web,TikTok explica que escoge sus recomendaciones basándose en tres factores: la interacción del usuario con los contenidos; la información de la misma publicación; y los datos personales que los mismos perfiles ofrecen a la aplicación.
Javier Sanz, criminólogo experto en cibercriminalidad y maldito que nos ha prestado sus superpoderes, señala que, después de que una persona interesada en el tusi encuentre un contenido que promocione su venta, “el algoritmo le mostrará no solo a este criminal [refiriéndose al vendedor de droga], sino a muchos otros similares”. Así es cómo en nuestro ‘Para ti’ empezaron a aparecer más vídeos sobre tusi y las sugerencias de búsqueda se fueron volviendo más específicas, segmentando por países, como por ejemplo “tussi colombia” (sic), acercando al usuario a la compra de esta droga por ciudades, “tussi santa cruz bolivia” (sic), o ayudando a encontrar productos concretos, como la marca de ketamina “Halatal”, un anestésico de uso en animales que forma parte de la fórmula del tusi.
TikTok también nos sugirió búsquedas como “pupilas dilatadas” o “brote psicótico” en las que aparecen contenidos de usuarios, muchos de ellos con aspecto de adolescentes, que hacen referencia a los efectos causados a raíz de un consumo diario de estas drogas; o piden consejos para sobrellevar la “malilla”, una forma de llamar al síndrome de abstinencia.
“Magia”, “recetas”o “cocinas”: TikTok incluye palabras clave del mercado del tusi en sus resúmenes de contenido generados con IA
Este mercado negro de Tiktok se organiza a través de términos clave que, según Javier Sanz, también influyen en el algoritmo: “El criminal ofrece el producto con palabras clave, como “recetas” o “activo”, lo que hace que su algoritmo en TikTok también le muestre videos y usuarios relacionados con ese mundo”. En Maldita.es hemos localizado con frecuencia el uso de palabras como “cocina”, “agua” “magia”, “insumos” o “envíos” en los perfiles y vídeos de los vendedores.
Estas mismas palabras clave son las que aparecen en los “resúmenes de contenido” que genera TikTok con inteligencia artificial (IA) en vídeos donde explícitamente se menciona la venta de tusi. Desde Maldita.es no encontramos información disponible en la página web de la red social sobre cómo se generan estos resúmenes, pero a lo largo de nuestra investigación hemos podido observar cómo incluyen frases como “aprender a cocinar con tusi”, “disfruta de sabores únicos” o “insumos [sustancias para fabricar el tusi] en España para todos: ¡Pide en mi DM!” (sic).
De acercar a los usuarios a otras drogas a vídeos sobre “escorts”: lo que el ‘Para ti’ de TikTok nos mostró
Los consumidores de tusi han desarrollado sus propios trends dentro de la aplicación, contenido viral replicado por los usuarios de la plataforma, y TikTok nos los ha recomendado en nuestro ‘Para ti’. De manera recurrente, el algoritmo nos mostró vídeos con el título de “yo en 2015 sin saber que la nariz servía para algo más que respirar”, con más de 100.000 visualizaciones y comentarios sobre el consumo diario de droga.
Nuestro algoritmo tampoco tardó en ofrecernos vídeos de carteras llenas de billetes con descripciones como “fue difícil llegar hasta aquí pero lo logramos”. TikTok también nos sugirió publicaciones donde aparecen paquetes embalados con mensajes como “se fueron cuatro para Madrid hoy” y de lanchas “de pesca alta en el sur de España”. Otras publicaciones, en las que se pueden ver helicópteros y personas cargando material embalado en el maletero de un coche, estaban dedicadas a “ofrecer capital” y a reclutar perfiles que quieran “entrar”, es decir, buscaban por TikTok que otros usuarios se unieran a la venta de esa droga.
El algoritmo de TikTok también empezó a ofrecernos vídeos de “captación de escorts” y publicidad de supuestos “grupos hormo”, espacios donde menores de edad comparten imágenes íntimas. Estas publicaciones trasladan la conversación a Zangi, una aplicación de mensajería que, como te contamos en Maldita.es, es utilizada por pedófilos para conseguir imágenes de menores. Para Mercedes Cimas, el hecho de que el algoritmo establezca una relación entre el tusi y los grupos de Zangi “no es casualidad” y alerta que este contenido, combinado con la dependencia a la drogas, puede ser visto por un adolescente como una forma de “obtener dinero para sostener su adicción”.
TikTok detalla en su portal web que en la personalización del contenido “también se tienen en cuenta las interacciones de otras personas que parecen tener intereses similares a los tuyos”. En Maldita.es hemos detectado que la plataforma, después de ver cientos de vídeos sobre el consumo de tusi, nos acercó a usuarios que aseguran vender otras sustancias, como cocaína, hachís o LSD.
Los vídeos que promueven el consumo y la venta de droga circulan por TikTok a pesar de que la normativa de la plataforma los prohíbe
Las políticas de TikTok prohíben explícitamente el contenido que proporcione “instrucciones para hacer o usar sustancias reguladas, como drogas” así como “mostrar, proporcionar o consumir” este tipo de sustancias. Para el criminólogo Javier Sanz, la venta de drogas en TikTok es el resultado de “un criminal motivado, un objetivo adecuado y la ausencia de un ‘guardián capaz’. Entre los ejemplos de contenidos “no permitidos” por la plataforma nos encontramos la mención a dos de los sugeridos por el mismo algoritmo de TikTok: los vídeos donde aparecen accesorios relacionados con drogas y “la representación del consumo o abuso” de sustancias. Tampoco están permitido por la plataforma los “comportamientos que promueven actos delictivos ni instrucciones sobre cómo comentar actos perjudiciales”.
Según la Ley Europea de Servicios Digitales (DSA), TikTok debe evaluar si sus funcionalidades, como sus algoritmos de recomendación y sus sistemas de moderación de contenidos, pueden suponer riesgos que tengan un impacto negativo sobre los menores y sus derechos, o sobre la salud pública (Artículo 34). También tiene la obligación de tomar medidas efectivas para reducir esos riesgos (Artículo 35).
En este artículo han colaborado con sus superpoderes los malditos Javier Sanz, criminólogo experto en cibercriminalidad y Mercedes Cimas, psicóloga experta en adolescentes.
Mercedes Cimas forma parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.