MENÚ
MALDITA TECNOLOGÍA

Cómo Elon Musk amplifica y legitima en Twitter (ahora X) la desinformación y el discurso de odio con imágenes generadas con IA

Publicado
Claves
  • Elon Musk usa imágenes creadas con la IA de X (Grok) para señalar a Kamala Harris como comunista, meter al juez de Brasil que prohibió su red social entre rejas y contribuir a campañas desinformadoras
  • Difundir sin contexto una imagen generada con inteligencia artificial entraña riesgos para la desinformación, y la IA generativa hace más fácil y accesible humillar con intención de mofa o vejación
  • Que lo haga una figura pública como Musk (con 198 millones de seguidores en X) tiene un enorme efecto amplificador y legitima el uso de la IA para promover el discurso de odio, dicen expertos e investigaciones
Comparte
Etiquetas

La candidata demócrata a la presidencia de Estados Unidos y vicepresidenta, Kamala Harris, vestida como una comunista; el juez que prohibió Twitter (ahora X) en Brasil, entre rejas; o el escritor Stephen King en situaciones vejatorias. Desde que lanzó Grok, la herramienta de IA de X que permite generar imágenes, Elon Musk está usándola para crear contenidos de este tipo y compartirlos en su red social. De sus tuits a veces se deduce que son imágenes falsas, pero otras veces no.

Difundir sin contexto una imagen generada con inteligencia artificial entraña riesgos para la desinformación. Que lo haga una figura pública como Musk, con 198 millones de seguidores en X, tiene un enorme efecto amplificador, y además legitima el uso de la IA para promover el discurso de odio, según expertos y distintas investigaciones. 

Musk usa imágenes creadas con IA para señalar a Kamala Harris como comunista, contribuir a campañas desinformadoras y meter a un juez entre rejas

La última versión del modelo de IA de X, Grok, permite generar imágenes hiperrealistas de contenido violento, vejatorio y que incita al odio, incluyendo matanzas en escuelas, consumo de drogas y sexualización. En muchas de ellas los protagonistas son figuras políticas, famosos o personas relevantes, y se comparten en la red social alcanzando un gran impacto, como analizamos aquí. Musk, propietario de la plataforma, también lo hace.

Desde que se lanzó esta IA, la ha usado para generar y compartir imágenes falsas, vejatorias y proferir amenazas. En ocasiones se puede deducir que el contenido es falso, pero otras veces no. Por ejemplo, respondió a un tuit de Kamala Harris adjuntando una imagen de ella con un uniforme rojo con el símbolo comunista y en el texto afirmó: “Kamala jura ser una dictadora comunista desde el primer día. ¿Puedes creer que lleve ese atuendo?”. El tuit de Musk tiene casi 84 millones de visualizaciones.

Musk también ha contribuido a difundir la campaña desinformativa que dice que los inmigrantes haitianos "ilegales" se comen a las mascotas de los estadounidenses apoyándose en imágenes de animales generados con IA. En uno de los casos, ha citado un tuit en el que aparece una imagen falsa de Donald Trump abrazando a un pato y un gato. Esta es una de las fórmulas habituales con las que Musk difunde desinformación. El impacto total de estos tuits en los que usa IA supera los 225 millones de reproducciones.

El dueño de X también ha utilizado la IA para proferir amenazas contra Alexandre de Moraes, juez del Tribunal Supremo de Brasil que prohibió la red social en el país después de que Musk se negara a cerrar cuentas desinformadoras. "Un día, @Alexandre, esta foto tuya en prisión será real. Recuerda mis palabras”, tuiteó, y compartió una imagen de una supuesta futura marcha por la libertad de expresión en Brasil, algo sobre lo que él tiene una doble vara de medir: sí eliminó contenido en la India y Turquía. También ha presentado al escritor Stephen King, con quien suele discutir a través de X, en composiciones grotescas y vejatorias, y aprovecha la IA para presentarse a sí mismo en situaciones que no son reales sin indicarlo.

Sabemos que cualquier imagen puede generar desinformación si se comparte sin contexto, pero la popularización y accesibilidad de la IA ha hecho que las imágenes generadas con inteligencia artificial sean una herramienta peligrosa. La IA generativa también hace más fácil y accesible humillar con la creación de este tipo de imágenes con intención de mofa o vejación. 

Que un megainfluencer como Musk comparta este tipo de contenidos amplifica y legitima el uso de la IA para la desinformación y el discurso de odio

Elon Musk tiene (a fecha de publicación de este artículo) 198 millones de seguidores en X. Investigaciones señalan que los superpropagadores [individuos capaces de ‘contagiar’ a multitudes] de desinformación en esta red social incluyen perfiles con un gran número de seguidores, medios de comunicación de baja credibilidad, cuentas personales afiliadas a esos medios de comunicación e influencers, recogen en The Conversation los profesores de la Universidad Europea Francisco José Pradana y María Luisa Fanjul. Musk sería, según la clasificación del estudio Influence and Improvisation: Participatory Disinformation during the 2020 US Election, un megainfluencer; cuando estos comparten algo, su impacto explota.

Pero no es solo el número de seguidores, sino la legitimidad que confiere que sea alguien como Elon Musk el que comparte este tipo de contenidos generados con IA. Cuando una figura pública se hace eco de una desinformación tiene doble efecto: se amplifica muchísimo y mucha gente lo legitima solo por ser, en este caso, Musk. A su vez, estos usuarios lo comparten y se produce una multiplicación. Si no hablamos de desinformación, sino de discurso de odio, también lo amplifica y promueve. 

“Desde el punto de vista de la relación entre tecnología y veracidad, Musk lanza un mensaje: como yo he desarrollado esta tecnología, me da libertad para hacer lo que quiera”, indica a Maldita.es Raúl Magallón, investigador y profesor del Departamento de Comunicación de la Universidad Carlos III y experto en desinformación. De alguna manera, “legitima que la tecnología y la libertad pueden estar sobre el principio de veracidad”, añade. Con esta actitud, “Musk se erige como un referente social y político, transmite una serie de valores y una parte de la comunidad de X y sus seguidores le puede imitar”.

Además, está la carga política, que se evidencia en las imágenes de Harris y Trump o en la situación de Brasil. Con este tipo de contenidos, Musk “pretende establecer influencia política y se posiciona para que su voz sea escuchada”, sostiene Magallón. 

Actualmente, la Comisión Europea tiene abierta una investigación contra X porincumplir la Ley de Servicios Digitales (DSA) respecto a sus obligaciones sobre contenidos ilegales, transparencia y desinformación. En las primeras conclusiones del informe, la CE informa a X de que, según su análisis preliminar, está infringiendo esta ley. Ahora, este uso de la IA generativa Grok da rienda suelta a que se creen contenidos desinformadores o que, sacados de contexto y compartidos directamente en la red social, puedan generar desinformación. Y Elon Musk es el primero que está contribuyendo a ello.

Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.