España y Europa se enfrentan al reto de proteger a los menores de la violencia digital, que no deja de crecer y que toma diversas formas. Para hacerlo, cuentan con un marco regulatorio diverso, que abarca desde la protección de datos hasta la responsabilidad de las plataformas de proteger a niños, niñas y adolescentes. Sin embargo, este podría no ser suficiente o no estar aplicándose de forma certera, indican los expertos consultados por Maldita.es. Por eso, a regulaciones como la LOPIVI a nivel nacional y la Ley de Servicios Digitales (DSA) a nivel europeo, se suman proyectos de ley que buscan abordar nuevos desafíos en los entornos digitales, como los contenidos sexuales creados con IA.
Cómo mantener a los menores a salvo de la violencia digital y los desafíos de la IA
Este reportaje es el quinto de una investigación internacional llevada a cabo por Maldita.es (España), Scena9 (Rumanía) y Rubryka (Ucrania). El proyecto explora la problemática de la violencia digital y su impacto en menores, así como las diferentes iniciativas que buscan identificar soluciones, prevenir estas situaciones y proteger a las víctimas. Esta investigación se ha desarrollado gracias al apoyo de Journalismfund Europe y a la mentoría y el apoyo de Transitions.
En España hay diversas normativas que protegen a los menores en el entorno digital. Según el caso, podemos acudir a la vía penal, civil o administrativa para denunciar
En España no existe una única ley que proteja a los menores de la violencia digital, sino un conjunto de normas que “abordan el problema desde distintas perspectivas, combinando prevención, sanción y protección directa”, describe a Maldita.es Maitane Valdecantos, abogada experta en derechos digitales.
Una de ellas es la Ley Orgánica de Protección Jurídica del Menor, que “establece las bases para la protección del honor, la intimidad personal y la propia imagen de los menores de dieciocho años”, según Valdecantos. También está el Código Penal, que “ha sido modificado en varias ocasiones para abordar la violencia digital”, por ejemplo, para tipificar la suplantación de identidad en redes sociales y la difusión no consentida de imágenes privadas.
En ese sentido, Valdecantos explica que, aunque no esten tipificados como tal, los contenidos sexuales creados con IA de menores se pueden perseguir penalmente gracias a la ampliación del concepto de pornografía infantil, que también contempla la pornografía virtual, la pornografía técnica y la pseudo pornografía infantil, figuras que permiten abordar estos casos.
En 2021, con la Ley Orgánica de protección integral a la infancia y la adolescencia frente a la violencia (LOPIVI) se introduce el término de violencia digital, y se castiga la difusión de contenidos que inciten el suicidio o la autolesión a los menores, se regula la distribución de material pornográfico y se penalizan los contenidos que faciliten el consumo de sustancias peligrosas a los menores.
En relación a la protección de los datos personales, tenemos la Ley de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD) y el Reglamento General de Protección de Datos (RGPD), que “ofrecen herramientas clave para combatir la violencia digital contra menores, destacando el derecho al olvido”, señala Valdecantos. Este derecho, cuyo nombre correcto es derecho de supresión, nos permite solicitar la eliminación de nuestros datos personales cuando no son necesarios o si retiramos nuestro consentimiento.
Por tanto, si queremos denunciar que un menor a nuestro cargo está siendo víctima de violencia digital, tenemos tres vías a las que podemos acudir (que son compatibles entre sí y podemos ejercer a la vez):
Vía penal: busca la responsabilidad criminal del autor del delito. Para ello, podemos denunciar ante la Policía Nacional, Guardia Civil o la Oficina del Ministerio Fiscal. Según Valdecantos, está “reservada para los comportamientos más graves” y es la más común debido a “su capacidad para imponer sanciones severas y proteger de manera directa los derechos fundamentales de las víctimas”. Sin embargo, la abogada explica que en los delitos cibernéticos puede ser más complejo identificar a los responsables.
Vía civil: no persigue sanciones penales, sino una resolución judicial que declare que se ha cometido un ilícito, que se detenga el comportamiento y que se compense a las víctimas mediante indemnizaciones, por ejemplo, económicas. Para ello, debemos presentar una demanda en un juzgado. “En el caso de menores, se utiliza sobre todo cuando se atenta contra la privacidad, el honor o la intimidad o la imagen de la víctima”, indica la experta.
Vía administrativa:
Canal Prioritario de la Agencia de Protección de Datos (AEPD): este canal facilita a los menores y sus tutores (o cualquiera que tenga conocimiento de la difusión de estos contenidos) la denuncia rápida y directa de la publicación no autorizada de imágenes, vídeos o audios con contenido sexual o violento que les afecte a ellos o a otros. Se puede hacer a través de su sede electrónica con un certificado o medio de autenticación o de manera presencial con el formulario. No aplica para la difusión de contenido por apps de mensajería instantánea ni correo electrónico.
Hacer una reclamación en la AEPD: si detectamos un uso indebido de datos personales (por ejemplo, alguien colgó el DNI, dirección o información personal de un menor a nuestro cargo en internet), podemos denunciarlo a través del menú "Trámites" en la web de la Agencia, de forma presencial en una oficina autorizada o por correo postal.
[Puedes descargar la infografía aquí].
En la Unión Europea, la Ley de Servicios Digitales busca regular el espacio digital y proteger a los menores en internet
A nivel europeo, una regulación que busca proteger a los menores en internet es la Ley de Servicios Digitales (DSA), un conjunto de normas para regular el espacio digital que incluye medidas sobre transparencia, moderación de contenidos, desinformación y algoritmos de recomendación. Asha Allen, secretaria general del Center for Democracy and Technology Europe (CDT) señala a Maldita.es que la DSA exige que las plataformas en línea de gran tamaño (aquellas con más de 45 millones de usuarios mensuales, como Instagram y X) “realicen evaluaciones anuales de riesgos sobre cómo sus servicios pueden afectar negativamente a la protección de la salud pública y de los menores, así como a las graves consecuencias negativas para el bienestar físico y mental de las personas”, detalla.
En esa línea, el 14 de julio de 2025 la Comisión Europea publicó sus Directrices sobre la protección de los menores en virtud de la DSA, “para proteger a los niños de riesgos en línea como la captación de menores, el contenido nocivo, las conductas problemáticas y adictivas, así como el ciberacoso y las prácticas comerciales nocivas”. Entre otras cosas, recomienda configurar las cuentas de menores como privadas predeterminadamente, modificar los sistemas de recomendación para que los niños no encuentren contenido dañino, dar a los niños la posibilidad de bloquear a cualquier usuario, y prohibir que las cuentas tomen capturas de contenido publicado por menores. Seguir estas recomendaciones es voluntario, pero la Comisión señala que “servirán de referencia para comprobar si las plataformas en línea que permiten su uso a menores cumplen los estándares necesarios”.
En el caso de la IA, la Unión Europea cuenta con la Ley Europea de Inteligencia Artificial, el primer marco jurídico integral sobre IA en todo el mundo. A pesar de que prohíbe sistemas de IA que considera de riesgo inaceptable e incluye obligaciones para los sistemas que operen en la UE, Allen sostiene que la ley no aborda específicamente los riesgos asociados a su uso para crear contenidos sexuales: “Solo aborda de forma superficial el contenido generado con IA, limitándolo a la categoría de riesgos de transparencia”.
Allen apunta que “los requisitos y obligaciones en torno al contenido generado por IA, incluidos los deepfakes, se centran en la divulgación a los usuarios”, es decir, que los que utilicen estos programas deberán hacer público que el contenido ha sido creado con esta tecnología. Por su parte, los proveedores de estas herramientas deberán asegurar que sus resultados estén marcados como que han sido generados con IA.
A pesar de que las leyes lo piden, no se ha dado con un sistema de verificación de edad eficaz para proteger a los menores del entorno digital
Dentro de las medidas que pide la DSA a las plataformas de gran tamaño para que los entornos digitales sean más seguros para los menores está incorporar herramientas de verificación de edad. El objetivo es controlar el acceso que tienen a contenidos dañinos o para los que no están preparados (como la venta de drogas, pornografía o las casas de apuestas). A pesar de que muchas redes sociales y sitios web para adultos ya cuentan con sus métodos de verificación de edad, no son infalibles y es fácil saltárselos.
Sin embargo, el desarrollo de sistemas más estrictos sigue siendo un tema en debate por los problemas de privacidad que podría implicar. Ella Jakubowska, responsable de Políticas Públicas de European Digital Righst (EDRi) explica a Maldita.es que, a día de hoy, no existen “buenas herramientas de verificación de edad disponibles, y es posible que nunca tengamos unas que respeten nuestra privacidad”.
En ese sentido, los países europeos están haciendo un esfuerzo por dar respuesta a este problema. España presentó la app móvil Cartera Digital en julio de 2024 (que aún no está disponible); y en julio de 2025 se anunció que será uno de los países, junto a Dinamarca, Grecia, Francia e Italia, que probará el prototipo de aplicación que presentó la Comisión Europea para la verificación de edad. El objetivo es que integren este prototipo a sus propias aplicaciones para probar su efectividad. Según la Comisión Europea, “las pruebas de usuario ya comenzaron a finales de junio y se ampliarán con el apoyo de los Centros de Internet más Segura de la UE”.
En España se presentó en marzo de 2025 el proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, que se tramita en el Congreso. En línea con lo anterior, el texto del proyecto, que está en fase de enmiendas y puede cambiar si sale adelante, plantea nuevas obligaciones de verificación de edad para las plataformas dirigidas a los adultos, y también que se eleve la edad mínima para el tratamiento de datos personales de 14 a 16 años, se instale en todos los dispositivos un control parental gratuito, y se establezca la pena de alejamiento en entornos virtuales, que busca prohibir la comunicación entre víctimas y agresores en internet.
Existen proyectos de ley que buscan tipificar como delito los contenidos sexuales creados con IA, pero los expertos defienden que es crucial la aplicación de las leyes actuales
También hay iniciativas en marcha que quieren poner coto al problema de los contenidos sexuales generados con IA. El mencionado proyecto de ley sobre menores y entornos digitales de España busca tipificar como delito la creación de ese tipo de contenidos con “penas de prisión de uno a dos años para quienes difundan contenido manipulado que dañe la integridad moral de una persona”, según Valdecantos.
Pero la abogada subraya que tipificar estos delitos no garantiza que se pueda castigar a los autores: “Uno de los principales retos sigue siendo la dificultad técnica para detectar manipulaciones digitales, lo que complica la identificación de los responsables y la comprobación de delito”. El proyecto también quiere tipificar el grooming como circunstancia agravante en ciertos delitos sexuales.
A nivel europeo también hay proyectos de iniciativas que buscan abordar estos problemas. El Parlamento Europeo adoptó en junio de este año su posición para revisar la Directiva relativa a la lucha contra el abuso y la explotación sexual de menores y “ampliar la definición de las infracciones”, para que se tipifiquen delitos como los contenidos sexuales de menores creados con IA. Jakubowska explica que esto “requerirá que los legisladores nacionales actualicen los marcos penales para garantizar que este tipo de contenido, por ejemplo, si se genera material sintético de abuso sexual de compañeros de clase o de cualquier otra persona, esté penalizado”.
¿Pero crear más leyes es la respuesta al problema de la violencia digital contra menores? Judith Membrives, investigadora y presidenta de Algorights, dice a Maldita.es que lo fundamental es que primero se cumplan las leyes que ya tenemos, y “que se cumplan con los requisitos de responsabilidad y rendición de cuentas en relación a las plataformas”. Jakubowska coincide: “No necesitamos nuevas leyes. Necesitamos la aplicación de las leyes que ya tenemos”. La responsable de Políticas Públicas de EDRi añade que España, Dinamarca y Francia son algunos de los países donde se observa una gran actividad y seriedad para abordar el problema: “Sin embargo, creo que existe un nivel erróneo de expectativas sobre lo que se puede lograr con nuevas leyes, en detrimento de pensar en cómo aplicar mejor las leyes existentes y cómo abordar esto como un problema estructural”.
Valdecantos insiste en que en España “en lugar de depender solo de la sanción punitiva, el sistema debería fomentar el aprendizaje sobre el uso responsable y seguro de las tecnologías. La lucha contra la violencia digital debe ser multidimensional e involucrar diferentes actores”. Por su parte, Sergio Salgado, presidente de Xnet, afirma a Maldita.es que no está de acuerdo con crear leyes específicas sobre internet: “Legislar internet como espacio de excepción nunca ha salido bien. Internet es el mundo real”.
El debate sobre la prohibición de móviles en las aulas: en España varía de comunidad en comunidad y los expertos difieren sobre su efectividad
La prohibición de los dispositivos electrónicos personales en los centros escolares también se posiciona para algunos como una respuesta a la violencia digital contra menores. En España, no existe una norma única a nivel estatal y su regulación varía de comunidad en comunidad (aunque el Consejo Escolar del Estado recomendó vetarlos en primaria y permitir solo el uso con fines pedagógicos o médicos en secundaria).
El debate sobre la efectividad de la prohibición o no del móvil sigue abierto (aquí puedes leer más), pero los expertos coinciden en que la clave está en la educación digital de los menores.