menu MENÚ
MALDITA TECNOLOGÍA

Cómo los timadores están creando vídeos manipulados y voces clonadas con inteligencia artificial para suplantar la identidad de personajes famosos y colártela

Publicado
Claves
  • Los timadores están usando tecnología para suplantar la identidad de personajes públicos en vídeos
  • Crean vídeos falsos a partir de manipulaciones de imagen y audio con inteligencia artificial (en algunos casos llamados deepfakes) para alterar las voces y el movimiento de la cara 
  • Los objetivos de estos montajes pueden ser incitarnos a invertir en falsas plataformas de criptomonedas o comprar falsos “productos milagro”, entre otros

Comparte
Etiquetas

Desde presentadores de televisión hasta políticos o empresarios. Los timadores están utilizando herramientas basadas en la inteligencia artificial (IA) para clonar las voces y alterar los rostros de personajes públicos. Los objetivos de esta manipulación pueden ser varios, como convencernos para invertir en falsas plataformas de criptomonedas o para comprar falsos “productos milagro”.

En este artículo, recopilamos los casos de los que hemos advertido en Maldita.es. Si te encuentras con algún vídeo que sospeches que no es real y con el que te están intentando vender algo, escríbenos a nuestro ‘buzón de timos’ ([email protected]).

Suplantan la identidad de Elon Musk y de periodistas para incitarte a invertir en supuestas plataformas de criptomonedas

Elon Musk, dueño de Twitter (ahora X) y de otras empresas como Tesla o SpaceX, es una cara recurrente en los intentos de timo. En Maldita.es hemos detectado muchos casos en los que se utiliza su imagen para engañarnos.

Ahora, también se está haciendo uso de la IA para suplantar la identidad del empresario. Por ejemplo, los timadores manipularon la intervención de Musk en un evento organizado por TED en abril de 2022, con el objetivo de promocionar una supuesta entidad de inversión en criptomonedas propiedad de Musk. En este caso, se trataba de un vídeo en el que se reemplazó la voz del magnate por su propia voz clonada con IA para cambiar su discurso. El propio Musk aclaró, a través de su perfil de Twitter, que quien hablaba en el vídeo no era él:

Captura del tuit de Elon Musk

Los timadores también están suplantando la identidad de presentadores de televisión en vídeos en los que supuestamente anuncian una nueva plataforma de inversión creada por Musk.

Por ejemplo, ya os advertimos de vídeos en los que aparecen Paula Sainz-Pardo y Ángeles Bravo, ambas presentadoras del canal 24h de RTVE, anunciando una supuesta entidad de inversión del empresario. Sin embargo, las plataformas que se promocionan con estos vídeos no están autorizadas por la Comisión Nacional del Mercado de Valores (CNMV).

En este caso, las voces de las presentadoras también fueron clonadas con IA. Nieves Ábalos, fundadora de Monocero Labs, indicó a Verifica RTVE, el servicio de verificación de la corporación, que las voces de las presentadoras han sido clonadas “con un 98% de probabilidad" con el software ElevenLabs.

Comparativa entre el vídeo original y el montaje

Ha circulado otro vídeo en el que aparece Beatriz Pérez-Aranda, también presentadora del Canal 24h, anunciando otra supuesta plataforma de Musk llamada “Bitcoin Millonario”. En este caso se ha clonado su voz y se ha alterado el movimiento de sus labios en el vídeo para engañarnos (un tipo de vídeo manipulado con IA llamado deepfake).

Vídeos manipulados para vendernos falsos “productos milagrosos”

En Facebook se ha difundido un vídeo en el que aparecen Sirún Demirjián, presentadora del Telediario de TVE, y el ministro de Sanidad, José Manuel Miñones, anunciando la aprobación de un supuesto producto “milagroso” para adelgazar, llamado ‘Keto Matcha Blue’.

Sin embargo, es un vídeo manipulado con inteligencia artificial. La voz de la periodista de TVE ha sido clonada. En el caso del ministro, han clonado su voz y han alterado el movimiento de su rostro a partir de una foto tomada el 2 de agosto de 2022, cuando era delegado del Gobierno en Galicia. Si nos fijamos en el vídeo creado a partir de la foto, su cuerpo y su cabeza permanecen inmóviles y sólo se altera el movimiento de su cara.

Comparativa entre la imagen original y el montaje

Además, en este otro artículo, explicamos qué son estos “productos milagro”, por qué no son de fiar y cómo podemos identificarlos.

Este artículo se irá actualizando para incluir nuevos casos de timos en los que se utilice la IA.

Maldito Timo cuenta con el apoyo de:

Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.