MENÚ
“Me ha llegado un link donde hay fotos mías desnuda editadas y creadas por IA [inteligencia artificial]”, publicó la influencer y modelo Laura Escanes. No ha sido la única: otras creadoras de contenido españolas como Hurona Rolera también han contado que se han encontrado con imágenes modificadas digitalmente en las que han puesto su cara en cuerpos desnudos. Esto no es algo que ocurra solamente a personas famosas. En España le ha ocurrido a varias chicas menores de edad en Almendralejo (Extremadura), que se encontraron con que en redes sociales se habían difundido desnudos con su imagen creados con una herramienta de inteligencia artificial, algo que puede ser un delito de pornografía infantil. También en Alcalá de Henares.
El uso de la tecnología para generar contenido sexual sin consentimiento es un problema que arrastra en particular la tecnología deepfake (vídeos manipulados con inteligencia artificial para suplantar la identidad de una persona) desde su origen en 2017, pero que ahora se ha amplificado con la democratización de la IA. En enero de este año varias streamers estadounidenses denunciaron haber sido víctimas del uso de deepfakes sin su permiso ni conocimiento para generar material pornográfico. Las investigaciones sobre el tema apuntan a que la grandísima mayoría de víctimas son mujeres: alrededor del 96% de vídeos que emplean esta tecnología se basan en imágenes de mujeres que se utilizan para crear contenidos sexuales sin su consentimiento.
¿Qué podemos hacer si nos encontramos con que han generado imágenes de desnudos o contenido sexual con nuestra cara gracias a herramientas de IA (u otras tecnologías)? ¿O si lo han hecho con la imagen de nuestro hijo, hija o un menor a nuestro cargo? ¿Qué vías de actuación tenemos? Esperamos que nunca te veas en esta situación, pero guarda este artículo o compártelo si conoces a alguien a quien le haya pasado: podemos demandar, denunciar y exigir que se retire el contenido, y hay varias vías para hacerlo.
Da igual la tecnología utilizada para manipular nuestra imagen, sea IA o un montaje con Photoshop: podemos denunciar
Como explicamos aquí en detalle y contamos en el podcast Maldita la hora, da igual la tecnología empleada, sea Photoshop, deepfakes o un programa de generación de imágenes con IA: si utilizan nuestra imagen personal sin nuestro consentimiento (y, en concreto, para contenido pornográfico) están vulnerando nuestro derecho a la imagen y al honor. Si se trata de un desnudo, un contenido pornográfico o de tipo sexual, es un delito contra la intimidad, y además se trata de nuestra imagen, por lo que hay una vulneración de nuestra protección de datos.
“Aunque la normativa española no regula específicamente este supuesto [de la IA], tenemos un ordenamiento jurídico en el que los ilícitos no tienen por qué catalogarse por la tecnología utilizada, sino por el fin o intención con la que esta se utiliza por quien la utiliza y, por supuesto, por los efectos que produce”, explica a Maldita.es Maitane Valdecantos, abogada especializada en propiedad intelectual y derechos digitales.
Además, si se trata de contenido generado a partir de imágenes de menores, puede incurrir en un delito de pornografía infantil, como desarrollamos aquí y también puedes escuchar aquí. Por todo esto y se haya realizado con la técnica o tecnología que sea, podemos denunciar.
Tenemos tres vías de actuación, que son compatibles entre sí y podemos ejercer a la vez
Una persona cuya imagen ha sido incluida en un contenido creado con inteligencia artificial u otra tecnología tiene varias vías de actuación, nos explican Valdecantos y Rahul Uttamchandani, abogado experto en privacidad. Las tres vías son compatibles entre sí (se pueden ejercer todas a la vez), así que usar una u otras dependerá de la naturaleza de las imágenes y el caso concreto.
- Denuncia ante las Fuerzas y Cuerpos de Seguridad del Estado (como a la Policía) por un posible delito contra la intimidad personal. En este caso estaríamos aludiendo a la naturaleza penal de la situación (injurias y delitos contra la intimidad).
- Demanda civil en un juzgado por infracción de derechos de imagen e intromisión ilegítima al derecho al honor (naturaleza civil).
- Reclamación ante la plataforma en la que se esté difundiendo el contenido en cuestión, y en caso de ausencia de respuesta o negativa, reclamación ante la Agencia Española de Protección de Datos (AEPD). En este caso sería por nuestro derecho a la protección de datos.
Denuncia penal
Aunque a veces es difícil identificar a los autores de este tipo de imágenes, se puede denunciar por la vía penal por injurias y delitos contra la intimidad. Si conocemos al autor de las imágenes podemos interponer acciones penales directamente contra esta persona.
Dependerá del caso, pero “lo normal es que sea constitutivo de delito, entonces al denunciarlo ante cualquier autoridad competente (Policía Nacional, Guardia Civil, Ministerio Fiscal) se iniciaría un proceso penal en el que se investigaría el origen y los responsables”, explica Uttamchandani. Las autoridades lo investigarán y determinarán si existe delito.
Dentro del propio proceso penal, también tienen cabida las acciones y remedios civiles.
Demanda civil
Si por las circunstancias del caso preferimos llevarlo por la vía civil para la protección del honor o la propia imagen, lo que habría que interponer es una demanda en un juzgado, explica Uttamchandani, y para esto es necesario la ayuda de profesionales (abogados). Estas acciones civiles también tienen cabida dentro del proceso penal, es decir, se pueden hacer ambas acciones.
Reclamación ante la AEPD
La generación de este tipo de imágenes también afecta directamente al derecho a la protección de datos personales: tu imagen, ya sea en una foto como un vídeo en el que aparezcas (real o simuladamente), es un dato personal. Para proteger esto podemos acudir a la AEPD. Desde la Agencia subrayan a Maldita.es que su recomendación principal es presentar una reclamación y, si se trata de contenido de carácter sexual, la opción más indicada sería hacerlo a través del Canal prioritario de la agencia. Aquí se puede solicitar la retirada exprés y urgente de material “sensible”. Aquí tienes todos los detalles sobre cómo hacerlo y qué datos y documentación hay que aportar.
La AEPD recuerda que este canal se ha habilitado específicamente para atender situaciones excepcionalmente delicadas, cuando las fotografías o vídeos tengan carácter sexual y se estén poniendo en alto riesgo los derechos y libertades de los afectados (siempre que estos sean personas españolas o se encuentren en España, especialmente si se trata de menores de edad o de víctimas de violencia por razón de género). También subrayan que puede acudir a este canal tanto la persona afectada como cualquier otra persona que tenga conocimiento de la difusión de este tipo de contenidos.
Como hemos indicado, esta vía es compatible con las dos anteriores. “La vía de la AEPD siempre está ahí independientemente de lo que hagamos en vía penal y civil. Especialmente en lo que se refiere a la retirada de los contenidos”, confirma Uttamchandani.
Podemos ejercer el derecho al olvido y pedir a las plataformas que retiren el contenido
Otra recomendación de los expertos es ejercitar el “derecho al olvido” (cuyo nombre técnico es derecho de supresión) ante los principales motores de búsqueda para evitar que el contenido indexado siga apareciendo y ante redes sociales para que el contenido desaparezca. Esto se puede hacer para cualquier tipo de contenido, en concreto para contenido sexual generado con inteligencia artificial. Por ejemplo Google dijo a NBC News que “las personas objeto de deepfakes pueden solicitar la eliminación de páginas de la búsqueda de Google que incluyan pornografía involuntaria".
Para ejercer este derecho, la AEPD tiene disponible en su página web un formulario que podemos rellenar con nuestros datos. Una vez completado, debemos buscar el contacto del Delegado de Protección de Datos (DPO) del organismo al que vayamos a pedir que suprima nuestros datos y enviarle este documento junto a una copia de nuestro DNI, que servirá para identificarnos.
También hay canales específicos que han habilitado las plataformas:
- Buscadores como Google y Bing.
- Redes sociales: Facebook, Instagram, TikTok, Twitter y YouTube.
- Plataformas adultas (recopiladas en este hilo por el bloguero Marcelino Madrigal).
La Ley de Servicios Digitales de la Unión Europea, que desde el 25 de agosto deben cumplir grandes plataformas y buscadores, promete hacer que sea más fácil que nos dirijamos a las plataformas para retirar e informarnos sobre la retirada de contenidos.
El tiempo que tienen para contestar a este tipo de petición y resolver la solicitud de supresión es un mes. Si las plataformas no retiran el contenido transcurrido ese plazo, si no responden a la petición o “si se considera que esa respuesta es insatisfactoria”, podemos acudir de nuevo al Canal Prioritario de la AEPD y reclamar “acompañando la documentación acreditativa de haber solicitado la supresión ante la entidad de que se trate”, explica Valdecantos.
Una cosa importante que recuerda Uttamchandani es que, al acudir a las plataformas, debemos no solo pedirles que retiren el contenido, también solicitarles toda la información posible relativa a ese contenido para que nos sirva como prueba.
Guarda todas las posibles pruebas, si te están extorsionando corta la comunicación y vigila qué hay en internet sobre ti
Además de denunciar, demandar y reclamar, hay algunas consideraciones generales que recoge INCIBE que debemos tener en cuenta y que podemos seguir si difunden imágenes nuestras con contenido sexual (sean reales o creadas con IA o con otra tecnología).
- Si eres menor, pon en conocimiento de lo sucedido a tus padres o algún adulto de confianza que te pueda ayudar.
- No borres ninguna prueba y guarda todas las evidencias posibles (mensajes intercambiados, etc.) mediante capturas de pantalla. Sin embargo, los pantallazos pueden ser insuficientes en un juicio, así que también podemos archivar el contenido y, como recomiendan en este artículo en El País, pedir un certificado digital.
- Corta toda comunicación con la persona que te esté extorsionando y no proporciones ninguna otra información adicional. Además, es aconsejable reportar y bloquear al usuario en redes sociales.
- Practica el egosurfing periódicamente para vigilar qué información existe en Internet nosotros.
Obviamente, no es nuestra culpa que alguien coja una imagen de nosotros de redes sociales y la manipule para crear un contenido sexual. La responsabilidad es de quien lo hace. Pero sí que es importante ser conscientes de lo que subimos, sobre todo si subimos fotos de menores. Pantallas Amigas y la AEPD publicaron un decálogo de buenas prácticas para concienciar sobre el uso de imágenes de menores de edad en internet. En el punto 8 recuerdan: “Lo que publicas escapa de tu control para siempre. Cuando algo aparece en una pantalla, es susceptible de ser capturado y reutilizado”.
Samuel Parra, abogado especializado en protección de datos en e-Privacidad, coincide en que es difícil borrar un contenido una vez que se ha subido a las redes sociales: "Una vez que el contenido se ha desperdigado por internet perdemos automáticamente el control de ese contenido. Es una obviedad y mucha gente cree que lo sabe, pero en realidad no".
En cualquier caso, Valdecantos recuerda que “siempre es importante ponerse en manos de especialistas en la materia que puedan guiar la estrategia a seguir”, no solo para “tutelar los derechos”, también para intentar minimizar las consecuencias y la difusión de las imágenes y controlar “el daño” que puede provocarse en internet. “Puede ser complicado e incluso prácticamente imposible encontrar a quien está detrás, por lo que minimizar el impacto se convierte en el objetivo prioritario para que el daño no se siga produciendo y perpetuando. Por eso, las acciones se suelen dirigir tanto en vía extrajudicial como judicial, en muchas ocasiones de forma simultánea”, explica la abogada.
Primera fecha de publicación de este artículo: 22/09/2023
