MENÚ
La IA generativa se está usando para crear vídeos de bebés y menores en situaciones grotescas, adultas y sexualizadas. Un vídeo creado con IA de un bebé envuelto en espaguetis con 81 millones de visualizaciones, otro que muestra a una niña pequeña con escote con 56 millones de visitas, u otro de un niño con sobrepeso, desnudo y manchado comiendo pollo que ha sido visto unas 452.000 veces son algunos de los ejemplos. Se pueden encontrar fácilmente en TikTok, Instagram, Facebook y YouTube recomendados en los apartados de ‘Explorar’, a pesar de que las políticas de estas plataformas prohíben el contenido que sexualice a menores.
Aunque en la mayoría de los casos se indica en algún punto que han sido creados con IA, en las publicaciones se pueden leer comentarios de usuarios que parecen no saber que los vídeos son falsos; también, mensajes inapropiados en los que se sexualiza a los menores.
Los expertos consultados por Maldita.es advierten de su impacto negativo, ya que pueden terminar en las manos de pedófilos, influenciar a los padres, normalizar contenidos que sexualizan a menores y también conductas inapropiadas en los niños. También señalan que los contenidos creados con IA se pueden considerar pornografía infantil y ser sancionados por la ley, pero que las plataformas sólo son responsables si saben que existe este contenido y no lo moderan.
Las plataformas prohíben los contenidos que sexualizan a menores, pero estos vídeos creados con IA siguen publicados y son recomendados
Las palabras “baby fashion show” (en español, desfile de moda de bebés) son la entrada a un espacio de las redes sociales repleto de vídeos creados con IA de bebés, niños y niñas desfilando por pasarelas y calles con ropa para adultos, maquillaje exagerado o con extraños trajes que simulan comida. Algunos parecen inocentes, pero otros muestran a menores con escotes, mojados o directamente sin ropa.
En TikTok, hay 3,1 millones de vídeos bajo el mismo sonido que se suele usar para compartirlos, una melodía infantil y pegadiza en chino. También abundan en Instagram, YouTube y Facebook. Además de desfiles, hay vídeos que representan a niños comiendo de forma grotesca o tocando instrumentos, muchas veces con poca o ninguna ropa. “Este tipo de vídeos tienen altas posibilidades de volverse virales, ya que mezclan elementos visuales llamativos, humor y ternura”, afirma Irene Martínez, psicóloga, sexóloga y maldita que nos ha prestado sus superpoderes.
YouTube, Meta (la empresa propietaria de Instagram y Facebook) y TikTok prohíben en sus políticas los contenidos que sexualicen a menores, los cuales dicen retirar de las plataformas. Sin embargo, al momento de publicación de este artículo, todos los vídeos analizados siguen publicados y las cuentas dedicadas a compartirlos siguen funcionando con normalidad.
No sólo eso. Hemos encontrado varios de ellos a través de las recomendaciones en las páginas de ‘Explorar’, es decir, las plataformas sugieren estos contenidos activamente.
Hay comentarios inapropiados en las publicaciones y otros que parecen indicar que los usuarios no saben que son falsos
Todos los vídeos y cuentas analizadas para este artículo identifican estos contenidos como generados con IA, algunos a través de la descripción de su perfil o nombre de usuario, y otros utilizando hashtags como #ai (artificial intelligence o inteligencia artificial). Sin embargo, algunos comentarios en las publicaciones parecen indicar que hay usuarios que no saben que estos vídeos son falsos y creados con inteligencia artificial. Por ejemplo, uno de ellos dice: “Quiten a estos niños de la pasarela”.
Pero hay algo peor que eso. También hay usuarios dejan mensajes inapropiados o que sexualizan a estos menores creados con IA generativa: “Juro que mis pantalones estaban puestos”, “Hola, bonita”, “¿La enfermera es para mi?”, “Mi Dios😏”, “Ayuda, tiene el pezón afuera en el segundo”.
Los expertos califican estos vídeos como “peligrosos”: pueden llegar a pedófilos, insensibilizar sobre la sexualización de menores, influir a padres y normalizar conductas entre los niños
“Peligrosos”. De esta manera, María del Carmen Bueno, psicóloga sanitaria, psicoterapeuta y maldita que nos ha prestado sus superpoderes, califica estos vídeos y advierte de que “dan gasolina a pedófilos y pederastas al ofrecer imágenes de bebés en poses y actitudes adultas. Esto no solo perpetúa fantasías peligrosas, también puede alimentar la demanda de contenido similar”.
Cualquier usuario, incluso alguno que no le interese este tipo de contenido, se puede encontrar con alguno de estos vídeos. Martínez indica que la exposición repetida a este tipo de contenido puede “erosionar la capacidad de sentir empatía hacia los niños” y llegar a insensibilizar “a los individuos frente al daño que este material representa y normalizar la explotación infantil”. Bueno añade que, en el caso de los padres, “puede influir” en que “repliquen estás imágenes, vistiendo a sus hijos o poniéndolos en actitudes que no son apropiadas para su edad, lo que puede afectar tanto al desarrollo emocional de los niños como a su entorno”.
También los niños que tienen redes sociales pueden encontrarlos y, según Martínez, “experimentar confusión, miedo y angustia”. La especialista sostiene que “la exposición a contenido que sexualiza a niños puede desarrollar percepciones erróneas sobre los límites personales, el consentimiento y las relaciones, lo que puede tener un impacto duradero en su desarrollo psicológico y social”.
“El problema está en perpetuar una imagen erótica y sexual de los cuerpos pequeños”, explica Silvia Catalán, psicóloga experta en sexualidades y maldita que nos ha prestado sus superpoderes. La experta indica que el peligro principal de esto es la normalización: “Si tengo 5, 6 o 9 años y me encuentro imágenes que sexualizan menores, veo que tienen éxito y que los adultos las aplauden, ¿por qué no voy a hacerlo yo?”, reflexiona.
Bueno recalca que también “puede desensibilizar a los niños, distorsionando sus valores y dificultando que identifiquen o denuncien comportamientos inapropiados”. Enrique José Sainz, profesor, experto en psicología infantil y maldito que nos ha prestado sus superpoderes, está de acuerdo en las “consecuencias muy negativas” que pueden tener: “Puede hacer que lo perciban como algo natural y normal de mostrar a los demás, sean niños o adultos”.
¿Cómo podemos hacerle frente a esta situación? Bueno indica que es un problema que se debe abordar con seriedad y responsabilidad a través de la promoción de medidas de protección digital más estrictas. “Es fundamental que se tomen medidas para limitar la creación y difusión de estos vídeos”, señala. Además, destaca la importancia de educar a los usuarios sobre sus riesgos y la importancia de “la colaboración entre plataformas, legisladores y expertos para combatir este problema de raíz”.
Los contenidos creados con IA se consideran pornografía infantil y pueden ser castigados por la ley, pero las plataformas están obligadas a actuar sólo si conocen su naturaleza ilícita
“La tenencia y distribución de material sexual de menores está castigada por el artículo 189 del Código Penal”, indica a Maldita.es Rahul Uttamchandani, abogado especializado en tecnología y privacidad. Según la ley, las personas que los publican pueden ser castigadas con una pena de prisión de entre uno a tres años. Algo que también aplica al contenido creado con IA generativa “que represente a personas que parezcan menores o personas con capacidad”, ya que, según el experto, también se considera pornografía infantil.
Sobre la responsabilidad de las plataformas, Uttamchandani señala que la Ley de Servicios Digitales (DSA) de la Unión Europea es la encargada de regularlas. “En este sentido, sólo tienen responsabilidad en la medida de que son conocedoras de la naturaleza ilícita del contenido”, aclara. Es decir, las redes sociales sólo serán sancionadas si tienen conocimiento de que hay contenido sexual de menores circulando y no actúan para eliminarlo.
Denunciar este tipo de contenido puede hacer que las plataformas se enteren de que este contenido está circulando. Para hacerlo, en Facebook, Instagram, YouTube y TikTok debemos localizar los tres puntitos junto a la publicación, presionar ‘Denunciar’ y seleccionar el motivo correspondiente.
Algunas de las páginas que los comparten ofrecen colaboraciones de pago, promocionan productos o redirigen a otras webs para generar ingresos
Como explicamos en este artículo, hay páginas en Facebook que comparten contenidos creados con IA de baja calidad, conocimos como AI slops o bazofia de IA, para generar ingresos al monetizar su contenido o redirigir a los usuarios a granjas de contenido (webs llenas de publicidad programática) o webs para timarlos. También pasa en otras redes sociales.
En el caso de las cuentas analizadas que publican estos vídeos de menores generados con IA, hemos detectado que varias de ellas buscan obtener ingresos de distintas maneras.
Algunas en Instagram ofrecen la posibilidad de hacer colaboraciones de pago. Por ejemplo, una de ellas intercala contenido creado con IA generativa con publicaciones colaborativas (muchas con imágenes y vídeos reales de menores) en las que invitan a seguir a esas cuentas, que dicen ser creadores digitales y publican contenidos en los que aparecen niños.
También uno de los perfiles analizados de TikTok publica vídeos con ofertas de productos tecnológicos, como cascos. Por otro lado, una cuenta de Facebook incluye un link en su descripción que redirige a una página de Amazon donde se venden productos para bebés.
En este artículo han colaborado con sus superpoderes la maldita Irene Martínez, psicóloga y sexóloga, María del Carmen Bueno, psicóloga sanitaria y psicoterapeuta, Silvia Catalán, psicóloga experta en sexualidades y relaciones y Enrique José Sainz, profesor y experto en psicología infantil.
Irene Martínez, María del Carmen Bueno y Silvia Catalán forman parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
