menu MENÚ
MALDITA TECNOLOGÍA

Niños sonrientes, esculturas y animales: cómo en Facebook se usan imágenes creadas con IA (que pueden engañar) para generar ingresos

Publicado
Claves
  • En Facebook abundan imágenes creadas con inteligencia artificial que generalmente muestran a niños, obras de arte, casas o imágenes de Jesús. Una investigación afirma que la red social recomienda este contenido a los usuarios
  • Muchas veces se comparten con mensajes cursis o grandilocuentes que despistan sobre su origen falso y en las publicaciones abundan comentarios de usuarios que creen que estas imágenes son reales
  • Las páginas que las publican buscan llamar la atención de los usuarios para aumentar la interacción. Esto les sirve para generar ingresos al monetizar el contenido o redirigir a webs llenas de anuncios o productos falsos
Comparte
Etiquetas

Facebook se ha convertido en una interminable galería de imágenes creadas con la IA de Midjourney y prácticamente nadie parece haberse dado cuenta”. Así describió un usuario de Reddit el estado actual de la red social de Meta. Diversas investigaciones coinciden: en Facebook abundan páginas de spam dedicadas a publicar imágenes creadas con IA y de baja calidad, que en inglés se llaman AI slops

Muchas muestran a niños posando junto a obras de arte de barro, plástico o paja, o pasteles que han preparado. Otras enseñan a niños negros sonriendo o a perros posando junto al atardecer. Estas imágenes, que se publican masivamente con mensajes cursis o grandilocuentes similares que despistan sobre su origen artificial, logran captar la atención de los usuarios y muchos de ellos creen que son reales en los comentarios. Las páginas que las publican acumulan miles de seguidores, lo que les permite generar ingresos al monetizar su contenido o redirigir a los usuarios a granjas de contenido (webs llenas de publicidad programática) o webs para timarlos. 

Publicación de la cuenta Dzoo, que tiene 14 mil seguidores y ha dado ‘Me gusta’ a un comentario donde se afirma que sus imágenes son creadas con IA.

Facebook recomienda imágenes creadas con IA a los usuarios, que se comparten con mensajes repetitivos y suelen mostrar a niños, obras de arte, casas o a Jesús

Un niño posa junto a una escultura de barro de Lionel Messi. La imagen se viraliza y se comparte por distintas páginas de Facebook, la mayoría de las veces con el mismo mensaje: “La escultura de Messi en Arcilla que asombra al mundo entero”. Pero esta imagen no es real, ha sido generada con IA, como ha comprobado Chequeado

Como esta imagen, hay muchas en Facebook. “Las imágenes creadas con IA y sin etiquetar amasan un número significativo de visualizaciones e interacciones”, señala la investigación ‘Cómo los spammers y estafadores aprovechan las imágenes generadas por IA en Facebook para aumentar la audiencia’ publicada en la revista Misinformation Review

Los investigadores descubrieron que la página de inicio de Facebook muestra a los usuarios imágenes generadas con IA incluso cuando no siguen a las páginas que las publican. “Sospechamos que esto es porque el algoritmo promueve contenido que puede generar interacción”, analizaron. 

Según el mismo estudio, los personajes que más se repiten en estas imágenes son los niños, casas o cabañas, obras de madera y Jesús. También descubrieron que gran parte de estas imágenes se comparten con los mismos mensajes, que suelen ser cursis o grandilocuentes para generar empatía o lástima. Por ejemplo, la descripción Made it with my own hands (Hecho con mis propias manos) se repite a la hora de acompañar imágenes de supuestas obras de arte y dibujos, donde “ni la persona mostrada ni el arte es real”, advirtieron. 

Una de las imágenes analizadas en la publicación de Misinformation Review

Muchos de los usuarios que interactúan con estas imágenes no saben que son falsas

Si entramos a los comentarios de estas publicaciones, nos encontraremos con los mensajes de usuarios que creen que lo que están viendo es real. 

Por ejemplo, esta imagen de un niño con una escultura de un pájaro hecho con tapas de botella acumula más de 260 mil ‘Me gusta’. A pesar de que Leming, la página donde se ha publicado, afirma en su descripción que las imágenes son creadas con la IA de Midjourney, el texto que acompaña a la imagen puede despistar: “Trabajo excepcional, su ingenio es admirable”. Como resultado, los comentarios están llenos de usuarios que bendicen y felicitan al niño por su talento. 

La página Interesting Planet también engaña a los usuarios. A diario, publica decenas de imágenes similares que muestran a niños posando con pasteles, siempre con el mismo mensaje: “This is my first cake! I will be glad for your marks” (¡Este es mi primer pastel! Agradezco vuestros consejos). Una descripción que invita a los usuarios a participar, a pesar de que en la misma se esconde el hashtag #MadewithAI (Hecho con IA). 

“Las percepciones erróneas de los usuarios resaltan la importancia de que las medidas de etiquetado y transparencia avancen”, señalaron los investigadores. En ese sentido, al momento de publicación, ninguna de las imágenes incluidas en este artículo tienen la etiqueta de Meta ‘Información de la IA o la notificación de ‘Información falsa”

Estas páginas generan ingresos al monetizar el contenido o redirigir a los usuarios a otras webs llenas de anuncios o productos falsos

La meta común de estas páginas de Facebook es aumentar el número de seguidores, según la investigación publicada en Misinformation Review. El estudio reveló que para lograrlo, además de publicar en masa, algunos administradores roban páginas con muchos seguidores y utilizan bots para generar interacciones falsas y aumentar su credibilidad. 

Tener más seguidores les permite aumentar las interacciones, lo que a su vez les ayuda a generar ingresos, reveló una investigación de 404 Media. Muchos administradores monetizan sus páginas de Facebook con anuncios en el perfil o sistemas de suscripción. Por ejemplo, una de las páginas analizadas, Leming, cobra 2,49 euros al mes por suscripción. 

Otros administradores apuestan por sacar a los usuarios de Facebook para generar ingresos. “Las páginas de spam usan técnicas de clickbait para dirigir a los usuarios a páginas fuera de la plataforma, como granjas de contenidos y dominios de baja calidad”, señaló la publicación de Misinformation Review

En estos sitios, los usuarios se encuentran con contenido de baja calidad (muchas veces creado con IA) y muchísimos anuncios. Que los usuarios entren a estas páginas y vean la publicidad le permite a los administradores generar ingresos. Además, la investigación advirtió que algunas también se usan para vender productos que no existen y engañar a los usuarios para que entreguen sus datos personales.

En este artículo de Maldito Timo te damos algunas pistas para saber si estás registrando tus datos en una página segura. Nombres que imitan a grandes marcas, textos mal escritos y algunos detalles de dominio pueden revelar si una web es falsa. 


Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.