MENÚ
¿Alguna vez has visto a Jesucristo hecho de gambas? ¿O de patatas? ¿O botellas de SevenUp? Si estás en Facebook es probable que sí. La red social está llena de imágenes extrañas creadas con inteligencia artificial que representan a Jesús. Acumulan miles de ‘Me gusta’ y suelen tener descripciones cursis o grandilocuentes que despistan sobre su origen artificial. Los usuarios suelen comentar con un “Amén” en estas publicaciones y algunas investigaciones apuntan a que algunos pueden no estar al tanto de su origen artificial.
Se trata de AI slops (literalmente, bazofia de IA), contenidos de baja calidad creados con esta tecnología. Además de Jesús, en Facebook también hay niños sonrientes que hacen esculturas, tartas y otras muchas imágenes de este estilo generadas con IA. Las páginas publican este tipo de contenido para monetizarlo o redirigir a los usuarios agranjas de contenido (webs llenas de publicidad programática) o páginas fraudulentas para robar sus datos o venderles productos falsos. Además, su presencia empeora la experiencia de las personas en la red social, contribuyendo a su ‘mierdificación’, el proceso por el cual los servicios digitales empeoran hasta que dejan de servir a los usuarios.
Jesús es una de las figuras recurrentes de los AI slops en Facebook y las imágenes se comparten con mensajes cursis o grandilocuentes
La figura de Jesús es una de las grandes fuentes de inspiración para crear AI slops, contenidos de baja calidad generados con IA que “sirven para crear la apariencia de contenido hecho por humanos, beneficiarse de ingresos publicitarios y redirigir la atención a otros sitios”, sostienen los periodistas expertos en tecnología Alex Hern y Dan Milmo de The Guardian.
Así lo afirma la investigación ‘Cómo los spammers y estafadores aprovechan las imágenes generadas por IA en Facebook para aumentar la audiencia’ publicada en la revista Misinformation Review, que señala que los temas más recurrentes de los AI slops son, en orden, imágenes de cabañas, niños, figuras talladas en madera y Jesucristo. También descubrieron que gran parte de estas imágenes se comparten con el mismo tipo de mensajes, que suelen ser cursis o grandilocuentes para generar empatía o lástima.
Una de las páginas que comparte contenido creado con IA analizada por los investigadores es Love God & God Love You. En ella, podemos encontrar varios AI slops de Jesuscristo hecho de zanahoria, escorpiones, plástico de burbujas o con forma de tortilla francesa. Estas imágenes se publican con mensajes como “Made it with my own hands” (Lo hice con mis propias manos), “May 2024 be Your Best Year” (Que 2024 sea tu mejor año) y “No one likes my artwork” (A nadie le gusta mi arte).
Estas imágenes no tienen una etiqueta que las identifique como generadas con IA
Aunque estas imágenes nos puedan hacer gracia o generar unos sentimientos u otros, los usuarios deben saber que están ante algo generado con IA. Sin embargo, “los comentarios en las imágenes sugieren que muchos usuarios no son conscientes de su origen sintético”, señalaron los investigadores. En las publicaciones vemos cientos de comentarios de agradecimiento y que generalmente dicen “Amén”. En ese sentido, advierten que “las percepciones erróneas de los usuarios resaltan la importancia de que las medidas de etiquetado y transparencia avancen”.
Aunque Meta, la dueña de Facebook, tiene uno de estos sistemas de etiquetado, en el momento de publicación de este artículo ninguna de las imágenes que hemos analizado tienen la etiqueta de ‘Información de la IA’ y sólo dos de ellas la notificación de ‘Información falsa’.
Pero, ¿cómo llegan estas imágenes a la gente? Según la investigación, la página de inicio de Facebook muestra a los usuarios imágenes generadas con IA incluso cuando no siguen a las páginas que las publican. “Sospechamos que esto es porque el algoritmo promueve contenido que puede generar interacción”, analizaron.
Las páginas que publican estas imágenes extrañas generan ingresos publicitarios o redirigen a los usuarios a otras webs
La investigación publicada en Misinformation Review sostiene que la meta común de estas páginas de Facebook es aumentar el número de seguidores. Tener más seguidores les permite aumentar las interacciones, lo que a su vez les ayuda a generar ingresos, según un reportaje de 404 Media. Muchos administradores monetizan sus páginas con anuncios en el perfil o sistemas de suscripción.
Otros apuestan por sacar a los usuarios de Facebook para generar ingresos. “Las páginas de spam usan técnicas de clickbait para dirigir a los usuarios a páginas fuera de la plataforma, como granjas de contenidos y dominios de baja calidad”, señaló la investigación de Misinformation Review. En estos sitios, los usuarios se encuentran con contenido de baja calidad (muchas veces creado con IA) y muchísimos anuncios. Que los usuarios entren a estas páginas y vean la publicidad le permite a los administradores generar ingresos.
Además, los investigadores advirtieron que algunas también se usan para vender productos que no existen y engañar a los usuarios para que entreguen sus datos personales. En este artículo te enseñamos cómo identificar una página segura.
Los AI slops pueden ser un factor en la ‘mierdificación’ o empeoramiento de Facebook
Las imágenes extrañas de Jesús y los AI slops en general también pueden empeorar la experiencia de las personas en Facebook. “Como el spam, su efecto en general es negativo: el tiempo y el esfuerzo que pierden los usuarios que ahora tienen que hacerse paso entre la basura para encontrar el contenido que realmente buscan supera con creces las ganancias para el creador de la basura”, sostienen Alex Hern y Dan Milmo de The Guardian.
Según los expertos, la IA juega un papel en el proceso de ‘mierdificación’ de las plataformas digitales. Este término, acuñado por Cory Doctorow, define el proceso por el que los servicios se vuelven cada vez “peores" hasta que dejan de servir a los usuarios. “La inteligencia artificial permite mierdificar más, más rápido y mejor”, explica Mar Carpena, periodista especializada en tecnología a Maldita.es.
Al final, la IA simplifica y agiliza tareas que permiten llenar internet de contenido de poco valor, como las granjas de contenido, los cheapfakes (deepfakes de baja calidad) y, por qué no, las imágenes de Jesús hecho de gambas (y todas los demás).
En este artículo ha colaborado con sus superpoderes la maldita Mar Carpena, periodista especializada en tecnología.
Mar Carpena forma parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
