MENÚ
“Facebook se ha convertido en una interminable galería de imágenes creadas con la IA de Midjourney y prácticamente nadie parece haberse dado cuenta”. Así describió un usuario de Reddit el estado actual de la red social de Meta. Diversas investigaciones coinciden: en Facebook abundan páginas de spam dedicadas a publicar imágenes creadas con IA y de baja calidad, que en inglés se llaman AI slops.
Muchas muestran a niños posando junto a obras de arte de barro, plástico o paja, o pasteles que han preparado. Otras enseñan a niños negros sonriendo o a perros posando junto al atardecer. Estas imágenes, que se publican masivamente con mensajes cursis o grandilocuentes similares que despistan sobre su origen artificial, logran captar la atención de los usuarios y muchos de ellos creen que son reales en los comentarios. Las páginas que las publican acumulan miles de seguidores, lo que les permite generar ingresos al monetizar su contenido o redirigir a los usuarios a granjas de contenido (webs llenas de publicidad programática) o webs para timarlos.
Facebook recomienda imágenes creadas con IA a los usuarios, que se comparten con mensajes repetitivos y suelen mostrar a niños, obras de arte, casas o a Jesús
Un niño posa junto a una escultura de barro de Lionel Messi. La imagen se viraliza y se comparte por distintas páginas de Facebook, la mayoría de las veces con el mismo mensaje: “La escultura de Messi en Arcilla que asombra al mundo entero”. Pero esta imagen no es real, ha sido generada con IA, como ha comprobado Chequeado.
Como esta imagen, hay muchas en Facebook. “Las imágenes creadas con IA y sin etiquetar amasan un número significativo de visualizaciones e interacciones”, señala la investigación ‘Cómo los spammers y estafadores aprovechan las imágenes generadas por IA en Facebook para aumentar la audiencia’ publicada en la revista Misinformation Review.
Los investigadores descubrieron que la página de inicio de Facebook muestra a los usuarios imágenes generadas con IA incluso cuando no siguen a las páginas que las publican. “Sospechamos que esto es porque el algoritmo promueve contenido que puede generar interacción”, analizaron.
Según el mismo estudio, los personajes que más se repiten en estas imágenes son los niños, casas o cabañas, obras de madera y Jesús. También descubrieron que gran parte de estas imágenes se comparten con los mismos mensajes, que suelen ser cursis o grandilocuentes para generar empatía o lástima. Por ejemplo, la descripción “Made it with my own hands” (Hecho con mis propias manos) se repite a la hora de acompañar imágenes de supuestas obras de arte y dibujos, donde “ni la persona mostrada ni el arte es real”, advirtieron.
Muchos de los usuarios que interactúan con estas imágenes no saben que son falsas
Si entramos a los comentarios de estas publicaciones, nos encontraremos con los mensajes de usuarios que creen que lo que están viendo es real.
Por ejemplo, esta imagen de un niño con una escultura de un pájaro hecho con tapas de botella acumula más de 260 mil ‘Me gusta’. A pesar de que Leming, la página donde se ha publicado, afirma en su descripción que las imágenes son creadas con la IA de Midjourney, el texto que acompaña a la imagen puede despistar: “Trabajo excepcional, su ingenio es admirable”. Como resultado, los comentarios están llenos de usuarios que bendicen y felicitan al niño por su talento.
La página Interesting Planet también engaña a los usuarios. A diario, publica decenas de imágenes similares que muestran a niños posando con pasteles, siempre con el mismo mensaje: “This is my first cake! I will be glad for your marks” (¡Este es mi primer pastel! Agradezco vuestros consejos). Una descripción que invita a los usuarios a participar, a pesar de que en la misma se esconde el hashtag #MadewithAI (Hecho con IA).
“Las percepciones erróneas de los usuarios resaltan la importancia de que las medidas de etiquetado y transparencia avancen”, señalaron los investigadores. En ese sentido, al momento de publicación, ninguna de las imágenes incluidas en este artículo tienen la etiqueta de Meta ‘Información de la IA’ o la notificación de ‘Información falsa”.
Estas páginas generan ingresos al monetizar el contenido o redirigir a los usuarios a otras webs llenas de anuncios o productos falsos
La meta común de estas páginas de Facebook es aumentar el número de seguidores, según la investigación publicada en Misinformation Review. El estudio reveló que para lograrlo, además de publicar en masa, algunos administradores roban páginas con muchos seguidores y utilizan bots para generar interacciones falsas y aumentar su credibilidad.
Tener más seguidores les permite aumentar las interacciones, lo que a su vez les ayuda a generar ingresos, reveló una investigación de 404 Media. Muchos administradores monetizan sus páginas de Facebook con anuncios en el perfil o sistemas de suscripción. Por ejemplo, una de las páginas analizadas, Leming, cobra 2,49 euros al mes por suscripción.
Otros administradores apuestan por sacar a los usuarios de Facebook para generar ingresos. “Las páginas de spam usan técnicas de clickbait para dirigir a los usuarios a páginas fuera de la plataforma, como granjas de contenidos y dominios de baja calidad”, señaló la publicación de Misinformation Review.
En estos sitios, los usuarios se encuentran con contenido de baja calidad (muchas veces creado con IA) y muchísimos anuncios. Que los usuarios entren a estas páginas y vean la publicidad le permite a los administradores generar ingresos. Además, la investigación advirtió que algunas también se usan para vender productos que no existen y engañar a los usuarios para que entreguen sus datos personales.
En este artículo de Maldito Timo te damos algunas pistas para saber si estás registrando tus datos en una página segura. Nombres que imitan a grandes marcas, textos mal escritos y algunos detalles de dominio pueden revelar si una web es falsa.
