Las cuentas trol de Twitter (ahora X) a menudo difunden contenidos que acaban convirtiéndose en desinformación. Estos perfiles se hacen pasar por “feministas”, “progresistas” o por miembros de un partido político, y publican contenidos con el objetivo de intoxicar el debate público. Tienen características comunes que permiten identificarlas como cuentas trol, como usar imágenes de perfil de otras personas o interactuar entre ellas.
Una de las estrategias que están llevando a cabo estas cuentas es la de manipular imágenes y vídeos reales para añadir a estos contenidos la cara que aparece en sus fotos de perfil. Fotos que, además, muestran indicios de estar generadas con herramientas de inteligencia artificial, como aseguran expertos en IA. De esta manera, pueden conseguir que sus perfiles sean más creíbles y sus contenidos se difundan como reales.
Este vídeo de la cuenta trol Sagrario Pérez Borel (@Sagrab1955) ha sido manipulado, posiblemente con inteligencia artificial
La cuenta trol de Twitter (ahora X) Sagrario Pérez Borel (@Sagrab1955), antes llamada Sagrario Fernández, tiene fijada una publicación del 15 de junio de 2024 con un vídeo en el que aparentemente aparece dando un discurso junto a líderes y miembros del PSOE. “Yo soy patriota, pero no de España. Soy patriota de partido. Patriota de mi @PSOE porque yo no elegí donde nací, pero sí escogí este camino. Y resistí”, dice el post.
El vídeo no es real, se ha modificado a partir de una grabación real publicada el 14 de junio de 2024. En el vídeo original aparece Amparo Rubiales, exconsejera de la Junta de Andalucía y del PSOE, a la que se ha cambiado su cara para añadir la que tiene la cuenta Sagrario Pérez Borel de foto de perfil.
Según Iris Domínguez, que investiga sobre inteligencia artificial, justicia algorítmica y sesgos de IA y nos ha prestado sus superpoderes, el vídeo habría sido manipulado con herramientas de inteligencia artificial. Explica que estos vídeos “suelen ser fáciles de identificar por la borrosidad en la cara y la poca naturalidad del movimiento de los labios”, como el de este perfil.
Aunque en una captura de su perfil de junio de 2024 vemos que no indicaba que fuese una cuenta “parodia”, a 31 de marzo de 2025, esta cuenta sí añade en su descripción la palabra “parodia”. Aun así, a veces sus publicaciones se difunden como reales.
Esta cuenta no tiene la etiqueta de Twitter que la identifica como “parodia”, sino que solo lo indica en la descripción de su perfil con un hashtag (#). Además, el perfil Sagrario Pérez Borel (@Sagrab1955) es una cuenta trol que ha sido identificada por Maldita.es en varias ocasiones por difundir contenidos que se convierten en desinformaciones.
Estas imágenes de la cuenta trol Lucerito Gómez (@electrixidad) podrían haber sido manipuladas con inteligencia artificial
El perfil de Twitter de Lucerito Gómez (@electrixidad) es otra de las cuentas trol que ha compartido imágenes manipuladas en las que ha añadido la cara que aparece en su foto de perfil. Por ejemplo, el 7 de marzo de 2025 subió una publicación junto a una foto que decía: “¿Sabéis cuál es mi secreto de belleza para lucir siempre así de guapa y lozana? Os lo diré… ‘Ser buena persona y votar a PODEMOS’”.
Sin embargo, la imagen que comparte ha sido modificada a partir de una foto real que circula desde al menos hace cinco años en Pinterest.
No es la única imagen manipulada que ha compartido esta cuenta. El 18 de marzo publicó un post bajo el texto “no creo en Dios, pero qué queréis que os diga... Prefiero celebrar el Ramadán que la Semana Santa, vamos, es que no hay color”. Al hacer una búsqueda inversa de la foto se muestra como resultado la imagen original publicada en un perfil de Facebook en abril de 2024, a la que se le ha modificado la cara.
Uno de los consejos para detectar imágenes generadas con IA es el de fijarnos en que la imagen presenta detalles difuminados. En este caso no es una imagen generada desde cero, pero si nos fijamos en los detalles, vemos que en la mano que sostiene el móvil parece no distinguirse las uñas del resto de dedos.
Este perfil sí está etiquetado en Twitter como “cuenta parodia”, una etiqueta que aparece debajo de su nombre en sus publicaciones. Al pinchar sobre ella, nos redirige a la “Política relativa al spam y la manipulación de la plataforma” de Twitter. Este apartado establece que no está permitido “asumir la identidad de otras personas, grupos u organizaciones para engañar a los demás”, aunque también señalan que sí permiten “las cuentas de parodia”. También se identifica como “parodia” en su descripción.
Esta cuenta también ha sido identificada por publicar contenidos que se difunden como si fuese una cuenta real. Por ejemplo, esta última afirmó que Pablo Iglesias había recibido el Premio de Periodismo Valiente de 2024 o que la supuesta nueva secretaria de Estado de Igualdad se llamaba Diabette Davis.
La cuenta trol Izaskun Goroliak (‘IzaskunGoroliak’) ha manipulado una imagen para añadir su supuesta cara
Dentro del apartado ‘multimedia’ de la cuenta trol Izaskun Goroliak (@IzaskunGoroliak) se puede encontrar una imagen manipulada a la que han añadido su supuesta cara. “Ante la inminente llegada de la #Navidad YO me pongo el velo para protestar por la homo-transfobia de la Iglesia Católica” es el texto con el que compartió la imagen en diciembre de 2024.
Al igual que los casos anteriores, se ha añadido su cara a partir de una foto real publicada unos meses antes, en septiembre de 2024, en otra red social. Cada vez es más difícil identificar imágenes manipuladas con IA o con otras herramientas digitales, pero uno de los elementos en los que podemos fijarnos para determinarlo es que la mano parece difuminarse con la barbilla.
Esta cuenta también cuenta con una etiqueta en su perfil que indica que es “parodia”, al igual que lo señala en su propia descripción.
Al igual que las anteriores, esta cuenta también ha publicado contenido que se convierte en desinformación, como ya te hemos contado en Maldita.es.
Las imágenes de perfil de estas cuentas trol tienen características que indican que podrían haber sido generadas con IA, según expertos consultados
Como hemos analizado, estos perfiles manipulan imágenes y vídeos reales para incorporar sus propias fotos de perfil a esos contenidos. “No se puede saber exactamente qué software se ha usado, pero es seguro que han usado una herramienta de inteligencia artificial generativa”, afirma a Maldita.es Sergio Mena Muñoz, profesor del Departamento de Periodismo y Nuevos Medios de la Universidad Complutense de Madrid.
Es más difícil confirmarlo, pero también parece que usan IA en sus propias imágenes de perfil. Mena explica que “es muy difícil saber que esa imagen no es real y que ha sido manipulada”. Sin embargo, asegura que “las imágenes que genera una IA suelen ser muy idílicas: personas sin arrugas, con una iluminación perfecta, encuadres y poses ortodoxas con texturas muy reales. Y ese es el caso de los ejemplos de estas cuentas”, analiza el experto.
Iris Dominguez también explica que “ahora mismo es casi imposible identificar los fakes” pero “podemos encontrar pequeñas incoherencias y asimetrías en la imagen, o diferencias de borrosidad entre la cara y el resto de la imagen”.
Por ejemplo, según Domínguez, en la foto de perfil de la cuenta Sagrario Pérez Borel (@Sagrab1955) se puede observar que el pendiente derecho es redondo, y el izquierdo parece estar deformado, casi pentagonal. También hay unas gafas a medio aparecer: solo se aprecia montura superior, pero se funden con las arrugas de los ojos. “El vaso en segundo plano también parece tener una forma extraña”, añade Domínguez. Además, podemos fijarnos en que el cabello está difuminado y mezclado con el entorno, y un rostro que aparece en el fondo está borroso y distorsionado.
En el caso de la cuenta Lucerito Gómez (@electrixidad), su foto de perfil también presenta alguna señal, como el pendiente, que también está deformado y poco definido, y tiene un rostro típico de los generados con IA.
Además, al hacer una búsqueda inversa de ambas imágenes no aparece ningún resultado, más allá de publicaciones que hayan compartido estas cuentas. Estas cuentas suelen cambiar de foto de perfil cada cierto tiempo, algo que hemos identificado en Maldita.es.
En este artículo ha colaborado con sus superpoderes Iris Domínguez, que investiga sobre inteligencia artificial, justicia algorítmica y sesgos de IA.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
