menu MENÚ
MALDITA EXPLICA

Qué dice la proposición de ley de Sumar para regular las simulaciones de imágenes y voces de personas generadas con IA

Publicado
Claves
➝ El grupo parlamentario Sumar registró una proposición de ley en el Congreso para regular las simulaciones de imágenes y voces de personas generadas con inteligencia artificial 
➝ Este texto, que no es definitivo y podría cambiar durante su tramitación, propone 
multar a los medios si difunden contenidos generados con esta tecnología sin autorización
➝ También plantea que sea delito distribuir este tipo de imágenes o vídeos de candidatos durante un proceso electoral y que se retiren los contenidos de forma cautelar, entre otras medidas
Comparte
Etiquetas

Multar a los medios de comunicación si difunden contenidos generados con inteligencia artificial (IA) sin autorización o que sea delito distribuir este tipo de imágenes o vídeos de candidatos durante un proceso electoral. Son dos de las medidas que plantea el grupo parlamentario Sumar en su proposición de ley para regular simulaciones generadas con IA (registrada en octubre de 2023). 

Este texto todavía no ha empezado a tramitarse y de empezar ese camino puede sufrir cambios en el Congreso y el Senado, pero ya ha generado dudas y se han movido publicaciones que hablan de intenciones partidistas. Analizamos lo que sabemos de momento para explicar qué se propone y qué no.

Sumar propone que generar contenidos con IA para menoscabar el honor sea considerado injuria

Con esta proposición, registrada el 6 de octubre de 2023 en el Congreso y admitida a trámite cuatro días después, se modificaría el Código Penal (CP). Uno de los cambios sería incluir como injuria (delito que consiste en manifestar hechos u opiniones que atentan contra la dignidad de otra persona) la generación y difusión de contenidos generados con inteligencia artificial sin autorización y que tengan como objetivo deteriorar el honor de una persona. Se crearía un artículo que tendría la siguiente redacción: 

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

También se modificaría el artículo 211 del CP, que establece que se consideran “hechas con publicidad” las injurias difundidas en los medios de comunicación. Con la proposición de ley, los contenidos generados con inteligencia artificial sin autorización previa y difundidos por redes sociales también se considerarán hechas con publicidad.

También se plantea que la difusión de contenidos generados con IA sin autorización conlleve multas para los medios de comunicación

Si se aprueba la propuesta de ley de Sumar, se consideraría una infracción muy grave la difusión por parte de los medios de comunicación de imágenes, vídeos o audios generados con inteligencia artificial si no ha habido una autorización previa de las personas que aparecen simuladas en estos contenidos, salvo que se indique de forma clara que ha sido creado con IA. 

Esto no incluiría a contenidos generados con IA que, o bien estén autorizados por la ley para detectar, prevenir, investigar y perseguir infracciones penales, o bien formen parte de una obra o programa que sea evidente que es creativo, satírico, artístico o de ficción.

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

Según la ley general de comunicación audiovisual, las infracciones muy graves prescriben a los tres años y están sancionadas con multas que pueden ir de los 60.000 a los 600.000 euros, según los ingresos anuales del medio de comunicación. Estas penas, además, pueden ir acompañadas de sanciones accesorias como la revocación de la licencia para prestar el servicio, el cese de las emisiones o el precintado provisional de los equipos e instalaciones para realizar la emisión.

Según el texto presentado, se consideraría competencia desleal utilizar contenidos generados con IA en publicidad

En el caso del uso de este tipo de contenidos en publicidad, según la proposición de ley presentada por Sumar se consideraría competencia desleal la utilización de imágenes o sonidos creados con IA o la modificación de las apariencias corporales con esta tecnología con fines publicitarios si no se advierte de forma clara que se ha usado IA. 

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

La proposición sugiere que se considere delito distribuir estos contenidos desde la convocatoria del proceso electoral y hasta la votación

Esta propuesta también recoge sanciones si se trata de imágenes y audios creados con IA sobre candidatos a un proceso electoral, desde que este se inicie hasta su votación. En la ley orgánica de régimen electoral se incluiría un nuevo artículo que consideraría delito distribuir este tipo de contenidos, siempre que se haga de forma maliciosa o sin autorización de la persona afectada. Estos actos serían castigados con pena de 3 meses a un año o multa de 6 a 24 meses.

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

Esto es algo que ya está pasando con distintas situaciones políticas. En Maldita.es hemos desmentido vídeos manipulados con esta tecnología y protagonizados por políticos españoles, como este vídeo donde se ve supuestamente a Yolanda Díaz decir que es “la guardiana de las estrellas” o este otro del exministro de Sanidad José Manuel Miñones supuestamente promocionando un producto “milagroso” para perder peso en poco tiempo. También fuera de España lo hemos visto con Donald Trump o Vladimir Putin.

También se incluye la retirada cautelar de contenidos generados con IA y el tratamiento de los datos personales

Sumado a todo lo anterior, también se incluiría este nuevo epígrafe en las medidas cautelares específicas de la ley de Enjuiciamiento Civil para facilitar la retirada urgente de imágenes o audios generados con inteligencia artificial sin autorización

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.

La propuesta también menciona la protección de los datos personales que se generen o se usen en los modelos de IA. Para ello, proponen la incorporación de este artículo en la ley orgánica de protección de datos personales:

Fuente: Captura de pantalla de la proposición de ley orgánica de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial.
Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.