MENÚ
Un análisis de Maldita.es detectó 16 canales de YouTube que compartieron 17 vídeos donde se hicieron eco de cómo supuestamente Ursula von der Leyen “destrozó y expulsó” a Teresa Ribera del Congreso Europeo, a pesar de que no hay registros de que esto haya sucedido. Estos canales comparten desinformación apoyándose en imágenes creadas con IA generativa para representar situaciones falsas y voces sintéticas para narrarlas.
Algunos de estos vídeos detectados por Maldita.es incluyen imágenes de ambas políticas con la marca de agua de Grok, la IA de Twitter (ahora X), y otras muestran otros indicios de haber sido creadas con inteligencia artificial. Según los análisis realizados por Maldita.es y la ingeniera informática Nieves Ábalos, también hay señales de que las voces que narran estos contenidos son sintéticas, como el estilo de locución y la pronunciación errónea de algunas palabras.
Sólo cinco de los 17 vídeos detectados cuentan con la etiqueta de ‘Contenido sintético’, que puede ser puesta por los autores o por la misma plataforma. A pesar de que YouTube afirma que los contenidos sintéticos no etiquetados se pueden retirar, que los vídeos que desinformen son eliminados de la plataforma y que las cuentas que se dedican a infringir sus políticas pueden ser canceladas, todos los vídeos analizados siguen publicados y los canales continúan disponibles al momento de publicación de este artículo (15:30 horas del 12 de febrero de 2025).
Maldita.es ha detectado 16 canales de YouTube que han compartido la misma desinformación sobre Von der Leyen y Ribera y utilizan imágenes creadas con IA
Un análisis de Maldita.es ha detectado 17 vídeos, publicados por 16 canales de YouTube, que amplifican la misma desinformación que asegura que Ursula von der Leyen, presidenta de la Comisión Europea, expulsó a Teresa Ribera, vicepresidenta de Transición Limpia, Justa y Competitiva y exministra del Gobierno de España, del Congreso Europeo. A pesar de que no hay ningún registro en las actas oficiales o medios de comunicación de la supuesta discusión, estos contenidos acumulan en total más de 514.000 visualizaciones.
Los canales que han publicado estos vídeos tienen en total más de 146.600 seguidores y se dedican a compartir supuestos acontecimientos relacionados con la política española, con protagonistas como Pedro Sánchez, Isabel Díaz Ayuso, Yolanda Díaz o Begoña Gómez.
Varios de los vídeos analizados incluyen imágenes creadas con inteligencia artificial que representan la supuesta discusión entre Von der Leyen y Ribera. Por ejemplo, dos de estos contenidos usan imágenes generadas con Grok, la IA de X, como se puede ver por la marca de agua de esta herramienta en la esquina inferior derecha de los contenidos. Estas mismas imágenes se utilizan en las miniaturas de otros vídeos.
Otras publicaciones incluyen imágenes de Von der Leyen y Ribera que muestran signos de ser creadas con IA. Según expertos en lA, los dientes pueden revelar que una imagen ha sido generada con esta tecnología, por ejemplo, si hay demasiadas piezas dentales, están encogidas, estiradas o desalineadas. También las miradas perdidas u ojos con estrabismo, con diferentes tonos o pupilas muy circulares son señales de alerta. Es lo que ocurre en el caso de estas imágenes, que además tampoco han sido compartidas por fuentes fiables (como sitios de noticias); sólo por estos canales, según la búsqueda inversa realizada en Google.
Hay indicios de que se han usado voces sintéticas generadas de forma digital y con IA generativa para las narraciones de estos vídeos
No solo se usa IA generativa en las portadas de esos vídeos, también para ponerles voz. No se trata de voces clonadas que imiten a Von der Leyen o a Ribera, pero sí de narraciones con indicios de haber sido generadas de forma digital.
Nieves Ábalos, ingeniera informática y cofundadora de Monoceros Labs, estudio de innovación sobre tecnologías del habla, analizó una muestra de cuatro de los vídeos en los que se comparte desinformación sobre estas políticas, y señaló a Maldita.es que las locuciones de la narración “son sintéticas, por el estilo de locución y el patrón de entonación”. Añadió que estas podrían haber sido creadas con programas de voces sintéticas como Microsoft o ElevenLabs.
En Maldita.es hemos revisado los 17 vídeos que amplifican la desinformación sobre Von Der Leyen y Ribera y hemos encontrado los mismos patrones que señaló Ábalos y que indican que se trata de una voz generada artificialmente. Además, hay otras señales, como la pronunciación errónea del nombre de Von Der Leyen como “Wonderlehen” en varios de los contenidos.
A pesar de que actualmente no existe un método que nos permita asegurar con total certeza si una voz ha sido generada de forma sintética, se puede recurrir a este tipo de observaciones para identificar si un audio ha sido creado con técnicas digitales, como IA generativa. En general, las voces naturales presentan una serie de características propias como son el tono, el timbre o el ritmo, que presentan particularidades en función de la persona y el contexto en el que se emplee la voz. En el caso de las voces artificiales, estas características son invariantes, indicando monotonía y falta de emoción.
Pese a que YouTube dice retirar la desinformación y los vídeos que empleen IA y no hayan sido etiquetados como sintéticos, todos estos vídeos siguen publicados
A pesar de que el análisis realizado por Maldita.es ha concluido que hay indicios del uso de voces sintéticas en las narraciones de todos los vídeos detectados y en algunos de ellos imágenes creadas con IA, sólo cinco de ellos tienen la etiqueta de ‘Contenido sintético’ de YouTube. Esta marca, que aparece en la esquina superior izquierda de los vídeos y en la descripción, permite a los canales avisar a la audiencia “cuando el contenido que parezca realista se haya modificado significativamente o generado de forma sintética”, según la web de la plataforma.
No sólo los usuarios pueden etiquetar el contenido. “En algunos casos, cuando no se reconoce el uso de la IA en el contenido, YouTube puede tomar medidas para reducir el riesgo de causar daños a los usuarios, como aplicar de forma proactiva una etiqueta que los creadores no tendrán la opción de quitar”, señala la plataforma. En su política, advierten de que el contenido no etiquetado se puede retirar o se puede suspender la participación de los canales en el Programa para Partners de YouTube.
Sin embargo, al momento de publicación de este artículo (15:30 horas del 12 de febrero de 2025), todos los vídeos analizados siguen disponibles, incluidos los que no tienen etiqueta. Esto también revela un incumplimiento de la política sobre desinformación de YouTube, ya que afirman eliminar el contenido desinformador. Además, señalan que los canales pueden ser cancelados si se dedican a “infringir alguna política”, pero los 16 canales detectados siguen disponibles.
La política de desinformación de la plataforma también señala que “combaten las actividades que pretenden influir en las opiniones políticas” y califica como práctica engañosa el uso de “elementos multimedia manipulados de forma fraudulenta (por ejemplo, vídeos deepfakes) que pueden causar daños graves”.
Aunque Google cuenta con esta política contra la desinformación, según una carta a la que ha tenido acceso el sitio web de noticias Axios, la tecnológica ha advertido a la Unión Europea que no añadirá un sistema de verificación a los resultados de búsqueda ni a los vídeos de YouTube y tampoco los utilizará para clasificar o eliminar contenido, a pesar de lo requiere el nuevo Código de prácticas de desinformación de la UE.
