menu MENÚ
MALDITA TECNOLOGÍA

Si se usan mis fotos para entrenar un modelo de IA, ¿puede aparecer mi cara en las imágenes generadas?

Publicado
Claves
  • La IA generativa produce contenido inédito a partir de los datos alimentados durante el proceso de entrenamiento 
  • Si tus fotos son usadas para entrenar un modelo, en teoría, nunca debería aparecer tu cara en las imágenes generadas. Sin embargo, expertos advierten que pueden incluir algún rasgo o característica identificable
  • Si la imagen generada contiene un rasgo identificable, los expertos consultados por Maldita.es afirman que el Reglamento General de Protección de Datos de la Unión Europea puede protegerte, pero no es un proceso sencillo 
Comparte
Etiquetas

“Los datos se están convirtiendo en la nueva materia prima de los negocios”. Con esta frase célebre, el empresario estadounidense Craig Mundie definió la importancia de los datos para las empresas. Las grandes plataformas lo tienen presente y muchas de ellas están cambiando sus políticas de privacidad para poder utilizar la información de los usuarios y alimentar sus modelos de inteligencia artificial, como te explicamos en este artículo. Una maniobra que Meta intentó hacer en Instagram y Facebook pero tuvo que detener por la presión de los reguladores europeos. 

Ahora que tus fotos, vídeos y publicaciones pueden terminar siendo parte de un dataset, ¿puede aparecer tu cara en las imágenes generadas? En teoría, no. Sin embargo, pueden aparecer rasgos faciales o corporales identificables. En este caso, el Reglamento General de Protección de Datos de la Unión Europea (RGPD) puede protegerte si te encuentras en un país comunitario, aunque los expertos consultados por Maldita.es afirman que las técnicas utilizadas para obtener la información dificultan el proceso. 

La IA genera contenido inédito pero sí que pueden aparecer tus rasgos

Las empresas tecnológicas necesitan una gran cantidad de datos para entrenar sus modelos de inteligencia artificial. Estos datos permiten al algoritmo aprender a generalizar un concepto para que, cuando le preguntemos por algo, sea capaz de sintetizar, comprender y devolvernos un resultado fiable. La necesidad de información para obtener mejores resultados ha provocado que las compañías busquen usar la actividad de los usuarios (fotos, mensajes y un largo etc.) para entrenar sus sistemas de IA.

Si te preocupa que una de tus fotos compartida en redes sociales termine en una base de datos y la IA genere una imagen con tu rostro, debes saber que los modelos de inteligencia artificial solo generan contenido inédito. En teoría, no debería reproducir tu cara o cuerpo, sino que debería generar nuevas imágenes a partir de las conclusiones del algoritmo. “Es seguro decir que cualquier imagen generada nunca ha existido antes como tal”, define Iñaki Rodríguez, desarrollador de modelos de IA e investigador. “No es posible que tu cara sea generada, pero puede ser que la imagen sea similar a algún rostro conocido”, añade Rodríguez. Esto se debe a que la creación puede incluir rasgos faciales o características similares a tu persona. 

Esto se debe a cómo los modelos de generación de imágenes son entrenados. El investigador explica que, primero, es alimentado por miles de fotos etiquetadas según sus características. Después, es entrenado para que considere estas características y aprenda a ponderar cuáles tienen más peso en una imagen generada. Como resultado, cuándo le pidas a la IA que genera una imagen de un chico con pelo castaño y ojos azules, no busca entre sus datos de entrenamiento para darte una respuesta, sino que genera una respuesta o conclusión propia. “Es por esto que si queremos encontrar una imagen de alguien utilizamos un algoritmo de búsqueda, no un modelo de lenguaje grande”, concluye el experto. 

Si detectas un rasgo identificable puedes protegerte con el RGPD, pero no es sencillo

Entonces, ¿qué puedes hacer si la IA genera una imagen similar a ti o con alguno de tus rasgos? Según los expertos de @TechAndLaw.lab, la situación implica un tratamiento de datos personales que debe cumplir con el RGPD. Eso sí, advierten que no es un proceso sencillo: “Principalmente por la forma en la que las organizaciones consiguen estos datos, casi siempre a través de data scrapping, que es bastante invasivo”, detalla Elena Gil, doctora en Derecho Digital y Protección de Datos. Por su parte, Eduard Blasi, abogado experto en Derecho Digital, explica que la situación afecta a diversos derechos de las personas, como el derecho a la información, derecho a la supresión, derecho digital y el derecho a no dar nuestro consentimiento. 

En estos casos, las cosas no están tan claras. Sin embargo, si tu imagen es manipulada con IA, como es el caso de los deepfakes o imágenes sexuales, puedes denunciar independiente de la tecnología que se use, por la vulneración a tu derecho a la imagen y el honor. 

En este artículo ha colaborado con sus superpoderes el maldito Iñaki Rodríguez, desarrollador de modelos de IA , el maldito Eduard Blasi, abogado experto en derecho digital, y la maldita Elena Gil, doctora en Derecho Digital y Protección de Datos. 

Elena Gil forma parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.

Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.


Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.