¿Qué es Cara? La aplicación con detector de IA donde van los artistas enfadados con Instagram

“No me enteré hasta que mis publicaciones, que normalmente recibían por lo menos mil ‘Me gusta’, ya no subían de 200. Instagram me había hecho shadow ban por tres obras con desnudos por violar las normas de comunidad”, cuenta Camilo Carreño-Gonzalez a Maldita.es. El artista, oriundo de Bogotá, tiene más de 14,2 mil seguidores en Instagram y se inició en la plataforma en búsqueda de crear comunidad y poder mostrar su arte en espacios alternativos a galerías. Ahora, es uno de los muchos artistas que están explorando Cara para compartir sus trabajos. 

Esta plataforma está diseñada para que se puedan publicar imágenes y GIFs con una peculiaridad: incluye un detector automático de imágenes generadas con IA, que aseguran que filtra estas creaciones de los portafolios. Es esta posibilidad la que ha convencido a algunos artistas de migrar a Cara para compartir su arte. Este movimiento llega después de meses en los que países, instituciones y artistas piden a las empresas más esfuerzos para detectar las imágenes generadas con inteligencia artificial y de diversas controversias sobre el uso de este tipo de contenidos en campañas publicitarias y concursos. 

Qué es Cara y qué política tiene sobre los contenidos con IA

Cara, es una plataforma creada en enero de 2023 “cuyo objetivo es facilitar la búsqueda de arte creado por humanos en un mundo invadido por la IA generativa”, explican sus creadores en su blog. La red social está diseñada para artistas y entusiastas del arte y ya tiene más de 700 mil usuarios activos. Los creativos pueden compartir sus portafolios, interactuar con otros usuarios, encontrar ofertas de trabajo y vincular sus currículums.

La política de Cara está en contra del uso actual de las herramientas de inteligencia artificial hasta que “los problemas éticos y de privacidad de datos alrededor de las bases de datos sean resueltas por regulación”. De hecho, la fundadora de la aplicación y fotógrafa Jingna Zhang, formó parte de la demanda colectiva contra Google, en la que se acusa a la multinacional de utilizar el trabajo de artistas sin autorización para entrenar a Imagen, su generador de imágenes con IA. 

Para conseguirlo, la aplicación utiliza Hive, una IA que detecta y filtra las imágenes generadas con inteligencia artificial. El modelo está diseñado para moderar contenido, en este caso, producido con IA. Pero sus términos con la compañía dueña de ese software no le permiten recolectar datos para entrenar sus sistemas. En Maldita.es hemos comprobado que estas herramientas de detección automática de imágenes con IA no son infalibles y sigue siendo necesario analizar las obras a nivel individual, como explicamos en este artículo.

“Ahora todo está inundado de imágenes generadas con herramientas de IA que no aportan valor artístico”, afirma Héctor Gallego Fernández a Maldita.es. El artista de CGI añade que Cara plantea algo radicalmente distinto, nuevo y fresco, “algo que muchos pedíamos hace tiempo, incluso antes de la IA”. “Estoy muy de acuerdo con su posición de que, hasta que los gobiernos no tomen medidas para proteger a los creadores, no permitirán obras generadas por IA”, considera también Carreño.

Cuáles son los problemas con Instagram que denuncian los artistas

Según diversos artistas contactados por Maldita.es los problemas son principalmente dos: la moderación de contenido (y el consecuente castigo del algoritmo) y el uso de sus obras para entrenar modelos IA. “Solo puedo imaginarme cómo sería un museo de arte si dejarán entrar el algoritmo de Instagram, serían solo cuadrados negros en lugar de pinturas renacentistas”, comenta a Maldita.es la artista ucraniana Tania Rivilis, que tiene más de 76 mil seguidores en la red social. 

A pesar de que la política sobre contenido adulto de Meta permite los desnudos en fotografías, esculturas y obras de arte, en ocasiones el sistema de moderación de la plataforma falla. Esto fue lo que llevó al shadow ban de Carreño-Gonzalez, cuyas obras de desnudos hiperrealistas fueron erróneamente etiquetados por Instagram como desnudos reales. “Afectó mi oportunidad de llegar a mis propios seguidores y a la gente que no me sigue”, lamenta Carreño-Gonzalez. 

Además, hace unas semanas Meta anunció que entrenará su IA con las publicaciones de sus usuarios. El aviso generó un debate en redes sociales que alcanzó a las comunidades de artistas, preocupados por el uso que podría dar la dueña de Instagram y Facebook a sus obras de arte. En Maldita.es te enseñamos cómo oponerte a que la compañía use tus fotos, pies de fotos y posts con este fin. También, cómo evitar que tus obras se utilicen para entrenar la IA. 

Esta migración es una queja más después de meses en los que la comunidad artística ha pedido soluciones para identificar este tipo de imágenes generadas por inteligencia artificial y que no se hagan pasar por arte creado por un humano, como ampliamos aquí. Por el momento no hay una regulación sobre la aplicación de la IA en estos entornos, aunque su uso indebido sí que puede chocar con la propiedad intelectual; aquí tienes más información.

A pesar de los problemas, algunos artistas planean quedarse. “No es probable que me vaya de Instagram porque he construido una gran comunidad de seguidores, contactos e incluso amigos a lo largo de los años”, confiesa Rivilis. “Lo más inteligente que uno puede hacer es diversificar su contenido en distintas plataformas”, explica Carreño-Gonzalez y afirma que seguirá mostrando sus creaciones en Instagram, aunque dando prioridad a las plataformas que mejor le permitan llegar a sus audiencias.