“Pedro Sánchez ha demostrado coraje y corazón, por eso hoy salimos a apoyarle”, dice a cámara una mujer que participa en una supuesta manifestación a favor del presidente del Gobierno. En realidad, aunque el usuario no lo indica de forma explícita, presenta indicios de haber sido generado con inteligencia artificial. Es solo un ejemplo de los vídeos creados con esta tecnología que circulan ahora en TikTok para lanzar mensajes de apoyo a Sánchez o al Gobierno de coalición y contra los partidos de la oposición y sus políticos.
Aunque TikTok pide que se señale en el propio vídeo, en la descripción o con alguna etiqueta que son contenidos generados con IA, en muchos de estos ejemplos la advertencia no es visible a simple vista: no puede verse en la versión móvil y hacen falta varios clicks para leerlo desde un ordenador. Además, la plataforma dice no permitir aquellos que utilicen la imagen de una persona, real o ficticia, ni aquellos con la imágenes de una persona adulta de ámbito público cuando se usa con fines políticos.
Cómo se está utilizando la inteligencia artificial para difundir mensajes políticos en TikTok
Maldita.es ha analizado diez perfiles diferentes (alguno ya ha sido eliminado a 2 de diciembre) que publican contenido generado con inteligencia artificial para difundir mensajes políticos en TikTok. Publican vídeos utilizando esta tecnología para mostrar apoyo a Pedro Sánchez y al Gobierno de coalición. Un tipo de contenido recurrente en estos perfiles son los vídeos (también generados con inteligencia artificial) de supuestas manifestaciones masivas.
En estos, generalmente aparece un hombre o una mujer que participa en la concentración lanzando mensajes de apoyo al PSOE o su líder a cámara. Mientras, en el fondo del vídeo, se puede ver al resto de integrantes de la supuesta movilización ondeando banderas de España y cantando consignas. “Pedro Sánchez ha aguantado todo por nosotros, por la gente de a pie. Hoy salimos a la calle para decirle gracias”, grita una mujer en un vídeo con casi 180.000 visualizaciones. Este otro ejemplo, con más de 13.000 reproducciones, muestra a una multitud cantando “Pedro guapo. Pedro el mejor presidente”.
Mezclados con estos contenidos, estos perfiles publican también vídeos en contra de otros partidos políticos. Por ejemplo, representan a Isabel Díaz Ayuso, presidenta de la Comunidad de Madrid, como una “santa” por abrir bares o junto a su pareja, Alberto González Amador, y Miguel Ángel Rodríguez, del Partido Popular, vestidos con uniformes carcelarios pidiendo que “les dejen robar en paz”. En algunos casos incluso tratan de ridiculizarlos, así como a sus políticas, a sus miembros y a sus votantes. Algunos de estos perfiles han utilizado la inteligencia artificial para representar a Miguel Tellado, secretario general del Partido Popular, con cara de cerdo o al presidente del mismo partido, Alberto Núñez Feijoó como “el tonto de la zambomba”.
Algunos de estos vídeos tienen visible la marca de agua de Sora, una red social de creación de vídeos hiperrealistas con IA que se está utilizando para desinformar y perpetuar estereotipos a través del humor. Otros, en cambio, muestran indicios de haber sido generados con esta misma tecnología. Son ejemplos en los que el fondo aparece desenfocado o con texturas poco habituales (incluso hay elementos de fondo, como las banderas, que se fusionan), sus rostros aparecen con expresiones forzadas, el cabello con formas poco naturales y los movimientos son robóticos.
TikTok dice no permitir contenidos generados con IA que utilicen la imagen de una persona real ni ficticia
La plataforma regula el contenido generado por inteligencia artificial. Según sus normas, cualquier vídeo, imagen o audio creados o modificados por procesos de aprendizaje profundo o automático debe ser etiquetado para “prevenir la difusión de información engañosa en TikTok dejando claro a los espectadores qué contenido no está alterado y cuál está alterado o modificado”. Este aviso puede traducirse en un texto que aparezca en el vídeo, un sticker de hashtag o contexto en la descripción de la publicación.
Además, TikTok cuenta con varias etiquetas para informar a los espectadores en caso de haberse utilizando IA: “Generado por IA” (una etiqueta que la plataforma puede aplicar de forma automática si detecta un contenido) y “El creador lo etiquetó como ‘Generado por IA’” (cuando es el autor quién lo advierte).
Entre los contenidos publicados por las cuentas analizadas por Maldita.es, hay ejemplos que sí cuentan con alguna de estas etiquetas. Sin embargo, la mayoría no tienen ningún aviso a simple vista. Para acceder al mensaje que explica que son contenidos generados con inteligencia artificial, en la versión web de la plataforma el usuario debe hacer uno o varios clicks para desplegar el apartado de “más información”. En la versión móvil esta opción no aparece, por lo que el usuario no tiene posibilidad de leer este aviso.
Además, TikTok dice no permitir los contenidos generados por IA que “contengan la semejanza (visual o sonora) de una persona real o ficticia y, aunque incluyan la etiqueta de contenido generado por IA”. De este modo, según explica en su página web, se eliminan “imágenes de una persona adulta de ámbito público cuando se usa con fines políticos o comerciales” e “imágenes de una persona de ámbito privado”. En las Normas de la Comunidad de la plataforma se especifica que no permiten el contenido editado y generado con esta tecnología “que pretenda engañar a los usuarios sobre asuntos de importancia pública o que resulte perjudicial para las personas”.