MENÚ
La imagen del papa Francisco en una cama de hospital y la de la bioquímica Margarita Salas mirando a cámara que aparecen arriba son imágenes que podrían ser reales y que han aparecido en la portada de artículos de webs y revistas. Sin embargo, fueron generadas con inteligencia artificial generativa, no son reales y no es el único caso. En algunas ocasiones se indica en el pie de foto que han sido creadas con IA, pero puede que los lectores no se fijen y crean que es un contenido real. Además, cuando estas imágenes aparecen en buscadores o en redes sociales, pueden no contar con etiquetas que las identifiquen como falsas.
Todo esto puede provocar desinformación, generar falsos relatos y alterar la percepción sobre personajes y hechos históricos. La Asociación de Prensa de Madrid (APM) también ha advertido de que pueden ahondar en la “desconfianza ciudadana ante los periodistas y los medios de comunicación”. Además, estas imágenes creadas con IA pueden promover la ‘mierdificación’ de los buscadores, llenándolos de contenido de baja calidad y poco fiable que hace más difícil que los usuarios encuentren lo que buscan. Para diferenciar lo real de lo generado con IA, podemos seguir algunas pautas, como buscar etiquetas, revisar la web de origen, contrastar con fuentes fiables y buscar indicios en las manos, ojos, dientes y textos de las imágenes.
Algunas webs de noticias y revistas incluyen imágenes creadas con IA en artículos sobre acontecimientos y personas reales
“Algunos medios de comunicación en España han difundido artículos con información de actualidad, ilustrados con imágenes de los protagonistas de esas noticias creadas a través de inteligencia artificial”. Con estas palabras, la APM denunció el uso de imágenes creadas con IA como si fueran auténticas.
Uno de los casos que motivó esta denuncia fue el uso de una imagen creada con IA del papa Francisco acostado en una cama de hospital, que acompañaba un artículo sobre la situación de salud del líder religioso. La imagen no era real, como indicaba el pie de foto, que decía: “Imagen creada por Inteligencia Artificial”. Al momento de publicación de este artículo, la imagen ha sido reemplazada por una foto real del papa Francisco en la web de noticias.
Algunos usuarios también han alertado del uso que hace una revista de divulgación y ciencia de imágenes creadas con IA en las portadas de sus artículos. Por ejemplo, un artículo sobre la bioquímica Margarita Salas se acompaña de un retrato suyo creado con esta tecnología, que cuenta con un pie de foto que dice “Foto: Midjourney”, en referencia a la herramienta de generación de imágenes con IA.
Estas imágenes pueden aparecer en buscadores o redes sociales, provocar desinformación y alterar la percepción sobre personajes y hechos históricos
La APM dice que estas advertencias en el pie de foto no son suficientes, ya que estas páginas y sus imágenes aparecen en buscadores, sin etiquetas que identifiquen el contenido como creado con IA, lo que puede provocar que se difundan como si fueran reales. Por ejemplo, si buscamos “Margarita Salas” en las imágenes de Google, los resultados incluyen la imagen creada con Midjourney de la revista, sin ninguna etiqueta que avise de que ha sido generada con esta tecnología.
Estas imágenes también se pueden compartir en redes sociales sin que se identifique su origen artificial. “Sólo el lector que entre en esos artículos tendrá la oportunidad de llegar a leer la advertencia. Muchas de las personas que ven esas imágenes las darán por reales, cuando lo cierto es que no lo son”, advierte la APM.
El peligro de que imágenes creadas con inteligencia artificial salgan de su contexto original, no se especifique su origen y se muevan como reales, es alto. En el caso de imágenes creadas con IA de representaciones históricas, estas pueden alterar la percepción sobre personajes y hechos históricos.
Por ejemplo, otros artículos de la misma revista que usó una Margarita Salas hecha con IA incluyen imágenes creadas con IA de mujeres extranjeras que participaron en la Guerra Civil, de una política republicana dirigiéndose a los ciudadanos y de un soldado con un gato en brazos, todas creadas con Midjourney según el pie de foto. Este tipo de representaciones históricas podrían crear falsos relatos y “distorsionar la memoria colectiva de las sociedades sobre su propio pasado”, explicó a Maldita.es José Gamir-Ríos, profesor de Comunicación Audiovisual en la Universitat de València y parte del grupo de investigación Mediaflows.
Según Esther Escudero, arqueóloga, ilustradora y maldita que nos ha prestado sus superpoderes, en estos casos en los que los contenidos tratan eventos históricos el peligro puede ser mayor, “llegando a consecuencias políticas peligrosas”. Esto es algo que ya sucedía con otras herramientas digitales de edición de imagen, como Photoshop. Así que con la IA no nace un nuevo peligro, pero sí que se puede perpetuar y extender gracias a la popularización de estas herramientas.
Otra posible consecuencia del uso de estas imágenes creadas con IA en artículos de actualidad informativa, según la APM, es que “esta mala práctica puede ahondar también en la desconfianza ciudadana ante los periodistas y los medios de comunicación”.
Estas imágenes pueden ‘mierdificar’ los buscadores, pero podemos seguir algunas pautas para diferenciar los contenidos reales de los generados con IA
Otra consecuencia de que estas imágenes creadas con IA aparezcan en los resultados de los buscadores es que pueden empeorar el servicio que reciben los usuarios, que se encuentran con contenido generado con IA de baja calidad y poco fiable en lugar de resultados útiles. Esto es lo que el escritor canadiense, Cory Doctorow, denominó como ‘mierdificación’ de las plataformas digitales: el proceso por el cual estos servicios se pueden volver cada vez ‘peores’, hasta que dejan de servir. La inteligencia artificial puede ayudar a este proceso ya que permite crear contenidos de poco valor de forma más fácil y rápida.
Para diferenciar lo real de lo creado con IA en los resultados de búsqueda, podemos seguir estas pautas:
Pinchar la imagen y revisar la descripción, algunas incluyen textos como “Imágenes con IA” o “AI images”. También “generada con IA” o “AI generated”.
Abrir la web del resultado y fijarse en las etiquetas o detalles que puedan revelar que ha sido creada con esta tecnología.
Contrastar lo que ves con otras imágenes de fuentes de confianza.
Si la imagen no ha sido etiquetada de ninguna manera y sospechas, puedes seguir estos consejos para detectar imágenes creadas con IA, como buscar ojos con estrabismo, dientes desalineados, dedos de más y textos mal escritos. Ten en cuenta que tienen limitaciones y pueden cambiar a medida que avanza la tecnología.
Algunos usuarios recomiendan usar la búsqueda avanzada de Google para filtrar las imágenes creadas con IA, pero estos consejos tienen sus limitaciones. Por ejemplo agregar a las búsquedas “-ai” (menos artificial intelligence) sólo funciona si la imagen tiene este texto en su descripción. Filtrar por fecha, por ejemplo, “before:2022”, el año en que se lanzaron las herramientas de generación de imagen Midjourney y la versión Beta de Dall-E, se queda corto si queremos buscar contenidos actuales.
En este artículo ha colaborado con sus superpoderes la maldita Esther Escudero, arqueóloga e ilustradora.
Esther Escudero forma parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
