MENÚ
Desde la influencer Laura Escanes a las alumnas de un instituto en Almendralejo (Badajoz), cada día son más las víctimas que denuncian la creación y difusión de imágenes de contenido sexual creadas con inteligencia artificial (IA), sin su consentimiento. Un uso negativo de la tecnología que no es nuevo ni residual. En ocasiones los creadores de estos contenidos pertenecen al mismo entorno que la víctima y difunden estas imágenes a través de las redes sociales entre sus pares (gente de la misma edad, amigos, conocidos), algo que puede tener un grave impacto en su salud mental, especialmente si las víctimas son menores de edad. Recuerda que si tú o alguien que conoces se encuentra en una situación similar, puedes pedir ayuda y dispones de herramientas a tu disposición para solicitar la retirada de estas imágenes.
La difusión de imágenes íntimas (y en especial durante la adolescencia) pueden suponer un impacto en la salud mental de las víctimas
El 18 de septiembre de 2023 varias madres de un instituto de Almendralejo (Badajoz) denunciaron la difusión de desnudos de sus hijas menores de edad creadas a través de inteligencia artificial. Según la Fiscalía Provincial de Menores de Badajoz, al menos 26 menores estarían implicados en la creación y difusión de estas imágenes, que a fecha de redacción de este artículo ha afectado a 21 adolescentes, todas mujeres, señala El País.
En el caso de Almendralejo los autores de estas imágenes pertenecían al mismo círculo social que el de las víctimas y compartieron estos contenidos a través de redes sociales y aplicaciones de mensajería como WhatsApp.
La difusión de estos desnudos (creados con IA o no) en redes sociales puede suponer un gran impacto para la salud mental de las afectadas seamos una persona adulta, un menor o un personaje público (como es el caso de las creadores de contenido como Pokimane o QTCinderella). Pero en la adolescencia también atravesamos otros procesos como es la formación de nuestra identidad y del autoconcepto.
Así lo explicó Alicia Hermoso, pedagoga, doctoranda en Educación y maldita que nos ha prestado sus superpoderes, durante la Twichería de Maldita Tecnología. “No es lo mismo cuando ya eres una persona adulta, partiendo de la base de que esto te provoca un impacto individual y social [a cualquier edad]. Empiezas a tener emociones de ira, tristeza, y a buscar un culpable”, señala la pedagoga.
La experta recalcó el impacto que puede suponer para la víctima ver un cuerpo que se difunde como el suyo (pero que en realidad, no es suyo y en el que no se reconoce) y la disonancia que esto puede generar. Obviamente, no es nuestra culpa que alguien coja una imagen de nosotros de redes sociales y la manipule para crear un contenido sexual. La responsabilidad es de quien lo hace.
Esther Calvete, catedrática de Psicología en la Universidad de Deusto, entiende que la difusión de este tipo de imágenes (sean creadas con inteligencia artificial o por otros medios) en redes sociales “son una agresión” que tiene un impacto en las víctimas, especialmente en las que se encuentran en la adolescencia. “Se vive con un gran sentimiento de culpa, de vergüenza y de ruptura de confianza con el mundo”, aseguró la experta durante el briefing ‘La salud mental de las personas jóvenes ante la amenaza de los deepfakes y el ciberacoso’, organizado por el Sciencie Media Centre (SMC) de España.
“Es algo que vemos desde hace tiempo y sabemos que el impacto es terrible. No es como una victimización en el patio del colegio, sino que se difunden en redes sociales y la sensación de humillación y exposición ante mucha gente hace que sea mucho más dañino y genere mucha más ansiedad”, explicó la investigadora durante su intervención, en la que incidió en que la difusión de estos contenidos en internet hace que esta victimización no se de una única vez, sino de manera constante. Algo que puede tener un gran impacto en las víctimas en un momento en el que la identidad sexual y el concepto sobre uno mismo se está desarrollando.
Irene de la Vega Rodríguez, psicologa clínica que también participó en la charla organizada por el SMC, incidió en que las redes sociales hacen que esta victimización sea “más inexplicable, impredecible e incontrolable”, y por tanto “potencialmente más estresante”, si bien el impacto de estos contenidos y cómo le afecta no es igual para todas las víctimas.
Hermoso considera que la necesidad de la víctima de buscar una explicación y el desarrollo de sentimientos de culpa también se relacionan con los roles de género. “Empezamos a buscar razones, ¿qué he hecho yo para merecer esto?”, argumentó la doctoranda. “Nosotras tendemos a seguir proyectando el rol de sumisión, de cuidados. De ahí que nos sintamos culpables, porque no sabemos qué está pasando ni qué hemos hecho para llegar a este punto”.
Poner el foco en los autores es clave para prevenir la difusión de este tipo de imágenes, según las expertas
En los casos que se han dado en centros educativos como el de Almendralejo, Alcalá de Henares o Huelva los autores de estas imágenes pertenecían al círculo de la víctima y algunos tienen menos de 14 años, por lo que no se les puede exigir responsabilidad penal. Entre los autores se encuentran alumnos de 11 años, un caso que pasaría a manos de los Servicios Sociales de la comunidad, de acuerdo a la legislación vigente.
Entre las medidas que se contemplan para estos menores de 14 años se encuentra un curso en igualdad de género, una formación que según Carmela Guerrero, trabajadora social experta en protección infantil y maldita que nos prestó sus superpoderes durante la Twichería de Maldita Tecnología, también podrían recibir el resto de implicados de mayor edad. Sin embargo, dependerá de Protección de Menores decidir si es necesario realizar un seguimiento de estos menores de 14 años y ver en qué contexto se está criando a los niños o si la familia comprende la gravedad de lo que ha ocurrido, explicó.
Según las expertas, la prevención de estos casos debe ir dirigida hacia los autores de estos actos y a evitar que estos tengan lugar. “A la víctima hay que apoyarla y ayudarla a ser resiliente, pero la prevención tiene que ir dirigida a evitar que tengan lugar esas conductas”, incidió Calvete durante su intervención, en la que resaltó que “bastante culpabilización tienen las víctimas como para que pongamos el foco en ellas, el foco tiene que estar en el agresor, y las intervenciones tienen que ir dirigidas a que haya menos adolescentes que acosen”.
Según Hermoso, este tipo de actos en un ambiente escolar y con una edad tan corta se pueden dar con un fin que no es sexual, como puede ser parte de una dinámica grupal contra sus compañeras. “El problema es que esto no es una gracia, en realidad es una broma de mal gusto que al final resulta ser un delito”, afirmó la pedagoga durante su paso por la Twichería de Maldita Tecnología.
Entre las razones que pueden llevar a los autores de estas imágenes a cometer estos actos se puede encontrar un sentimiento de permanencia a un grupo o una falta de educación sexual. “¿Quién nos ha educado así? Esto es algo social que va continuando de generación en generación. Hemos aprendido que por ser hombre se tienen ciertos privilegios y no somos conscientes de ello, se da como algo natural”, incidió la pedagoga.
La intervención de las instituciones y una red de apoyo es clave para ayudar a las víctimas
El sentimiento de permanencia a un grupo es un aspecto crítico dentro de la adolescencia. Para las víctimas de este tipo de contenidos, esto se puede romper, ya que experimentan el rechazo o la humillación de sus iguales, y esto según las expertas puede afectar a su sistema de creencias. “El acoso entre iguales es quizá una de las experiencias humanas más dolorosas que podemos tener, especialmente en la adolescencia, donde estamos formando nuestra identidad”, explicó Rodríguez.
La psicóloga también detalló que estas experiencias, aunque no son el único factor, pueden ser un desencadenante de trastornos de la conducta alimentaria o de la personalidad. “Se pueden generar síntomas del tipo disociativo, trastornos depresivos ansiosos o fobias sociales. Y si se vive con el terror y la soledad suficiente puede generar un trastorno de estrés postraumático”.
Para reducir el impacto que pueda tener la difusión de estas imágenes es clave tener en cuenta factores de protección, como tener una red de apoyo fuerte como pueden ser la familia o el círculo de amistades, frente a otras figuras que puedan reaccionar negando la realidad o invalidando la experiencia de los adolescentes. Según la psicóloga, en el tratamiento integral de otros casos, como el de abuso sexual, se incluye el tratamiento a la familia. Aunque no hay pautas generales y cada caso se analiza, la experta señala que validar la experiencia del adolescente y mostrar un apoyo abierto puede servir de ayuda.
Carlos Puente, técnico de Ciberseguridad para Menores del Instituto Nacional de Ciberseguridad (INCIBE), también resaltó durante la Twichería de Maldita Tecnología la importancia de que los menores cuenten con una figura adulta (padres, familiares, profesores o autoridades) que les pueda dar un espacio de confianza y acompañarlos durante estos momentos. Sobre todo en casos en los que se pueda dar una extorsión mediante estas imágenes.
En el caso concreto de Almendralejo, Guerrero remarcó el hecho de que haya habido un colectivo de víctimas, lo cual puede suponer un apoyo para las afectadas. “No es lo mismo ser una víctima sola que haya ocurrido a muchas, que se conocen entre ellas y que han formado casi un colectivo con las familias, y eso es muy liberador para ellas. Puedes compartir los sentimientos y hay un apoyo familiar claro”, resaltó la experta.
Respecto al papel de las instituciones, Guerrero apuntó a que desde Servicios Sociales también se podría ofrecer un apoyo a la familias afectadas sobre cómo gestionar este tipo de situaciones y preparar un sistema de apoyo psicológico para las víctimas. Pero hay otras instituciones que también tienen que intervenir para combatir estas situaciones. “Los institutos implicados tienen un papel preventivo muy importante. Es un espacio en el que víctimas y agresores están juntos, y por lo tanto debería aprovecharse para manejar este asunto y dar formación en igualdad de género tanto a padres como alumnos”, razonó la experta en Servicios Sociales.
Si difunden imágenes íntimas (reales o no) podemos solicitar su retirada a la Agencia Española de Protección de Datos
En caso de que difundan imágenes nuestras con contenido sexual (sean reales o creadas con IA), tienes una serie de herramientas para impedir la difusión de este tipo de contenidos. El INCIBE también ofrece una serie de pasos que podemos seguir en caso de que seamos víctimas de estos contenidos:
Si eres menor, pon en conocimiento de lo sucedido a tus padres o algún adulto de confianza que te pueda ayudar. También puedes acudir a la línea de Ayuda en Ciberseguridad (017) del INCIBE para una primera orientación.
No borres ninguna prueba y guarda todas las evidencias posibles (mensajes intercambiados, etc.) mediante capturas de pantalla.
Valora una posible denuncia presencial en las Fuerzas y Cuerpos de Seguridad del Estado, como el Cuerpo Nacional de Policía.
Corta toda comunicación con la persona que te esté extorsionando y no proporciones ninguna otra información adicional. Además, es aconsejable reportar y bloquear al usuario en redes sociales.
Practica el egosurfing periódicamente para vigilar qué información existe en Internet nosotros.
Si hemos detectado que se ha difundido material sexual que emplea nuestra imagen en redes sociales, podemos tomar otras medidas como ejercer el derecho al olvido o contactar con la plataforma o red social en cuestión para solicitar su eliminación. También podemos denunciar el caso a las autoridades y solicitar a través de la Hotline de INCIBE y el Canal Prioritario de la Agencia Española de Protección de Datos para solicitar su retirada inmediata. Si tienes más dudas sobre qué hacer ante la difusión de imágenes íntimas o de carácter sexual en Internet, en este artículo os damos más detalles.
En este artículo han colaborado con sus superpoderes la maldita Alicia Hermoso y Carmela Guerrero.
Alicia Hermoso y Carmela Guerrero forman parte de Superpoderosas, un proyecto de Maldita.es que busca aumentar la presencia de científicas y expertas en el discurso público a través de la colaboración en la lucha contra la desinformación.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de WhatsApp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
Primera fecha de publicación de este artículo: 10/10/2023
