MENÚ
¡Bienvenidos, malditas y malditos! Nos reunimos un martes más en nuestro consultorio semanal, la herramienta perfecta para solucionar todas vuestras dudas sobre el mundo digital. Hoy os traemos respuestas sobre los deepfakes y cuánto consiguen engañarnos estos vídeos manipulados, sobre las diferencias entre las aplicaciones de Android y iOS y un término que cada vez oiréis más: el doomscrolling.
Cada vez son más los anglicismos que entran en el terreno de la tecnología, pero tranquilos que estamos aquí para explicaros cualquier término que no entendáis: solo tenéis que preguntarnos por correo (tecnologí[email protected]), a través de Twitter o Facebook o dejarnos vuestra pregunta en este formulario. ¡Allá vamos!
¿Qué son y para qué se usan los deepfakes hoy en día? ¿Son peligrosos?
Anteriormente, os hemos hablado de por qué cuando los deepfakes llegaron a oídos del público no suponían una gran amenaza a la hora de desinformar. Estos son vídeos reales manipulados con tecnología basada en inteligencia artificial con el objetivo de crear imágenes falsas que sean igual de realistas. O en palabras mucho más simplonas: sustituir la cara, el cuerpo o la voz de una persona por otra en un vídeo. Sin que lo notemos, claro.
Este proceso pasa por una serie de técnicas que no sólo afectan a la imagen, sino también al sonido. Si una persona está hablando se puede modificar también su voz para que aunque al manipularlo quien hable sea una persona diferente, siga pareciendo real. No toda manipulación de un vídeo entra en la definición de deepfakes.
Por ejemplo, se difundió mucho un vídeo de la presidenta de la Cámara de Representantes de EEUU, Nancy Pelosi, a quien acusaban de ir borracha porque lo habían ralentizado. Para que pareciese real, lo que hicieron fue modular su tono de voz para que esta no se volviese grave al ir más lento (esto ocurre cuando se ralentiza un vídeo). Estos casos son más comunes: en Maldita.es os hemos hablado también de cómo simplemente ralentizando un vídeo se puede atacar a políticos por su forma de hablar.
Sí lo son unas imágenes manipuladas del ex primer ministro italiano, Matteo Renzi, insultando. Pero no es lo más común. Hace unos meses vimos a un político indio usando un deepfake para dirigirse a su público en inglés, un idioma que no hablaba, de forma voluntaria y también lo hemos visto en el programa de El Intermedio en España, que utilizaron este recurso para simular un debate entre Iñigo Errejón y Pablo Iglesias entre otros.
En el ámbito de la desinformación, esta técnica es muy atractiva para los que la diseminan. Imaginaos el desconcierto que causaría en la opinión pública ver a un político diciendo algo totalmente disparatado o contrario a sus ideales. Formar a la ciudadanía para detectar la manipulación del discurso público se volvió un indispensable para prevenir caer en estas trampas, ya que suponen la misma amenaza que otros tipos de desinformación. En Maldita.es, uno de los objetivos principales es ayudaros con esa formación.
Britt Paris, profesora en la Universidad de Rutgers en EEUU y coautora de un informe de Data & Society sobre deepfakes, recuerda que la relación entre la desinformación y la manipulación audiovisual ya existía: “Cuando se popularizó la fotografía y se quiso utilizar como evidencias en los tribunales, los jueces la rechazaban porque no entendían la tecnología y pensaban que no sería precisa”.
En los últimos años no se han observado tantos ataques contra políticos con el objetivo de crear una desinformación usando deepfakes como se habría pensado. Por ejemplo, acaban de darse las elecciones americanas, un escenario muy polémico por el enfrentamiento entre Donald Trump y Joe Biden, sin que se hayan usado estas técnicas.
Los deepfakes de políticos más conocidos suelen usarse en entornos controlados precisamente para mostrar que algunos pueden llegar a estar muy perfeccionados. Por ejemplo, este del presidente norcoreano Kim Jong Un (en el que no se le ve parpadear en 40 segundos de vídeo):
“Cuando vemos deepfakes en informativos aparecen solamente para alertarnos de sus peligros; y cuando los vemos en programas, el acabado es malo, 'de andar por casa'. Se hace adrede para que el público entienda lo que es y sólo se emplee con fin humorístico o paródico”, explica a Maldita Tecnología Graciela Padilla Castillo, profesora en la Universidad Complutense de Madrid y autora del estudio “Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales”.
En realidad, donde sí hemos visto que esta tecnología se usa y es efectiva es en otros ámbitos: especialmente el del cine y también en la pornografía.
¿Qué tipo de tecnología está detrás? En otros artículos os hemos explicado qué son las redes neuronales y para qué podrían utilizarse en el reconocimiento de imágenes, por ejemplo con los filtros de Instagram o TikTok. Para los deepfakes también se utilizan diferentes tipos de redes neuronales (un tipo de tecnología del campo de la inteligencia artificial) llamadas “autoencoders” y “generativas adversariales (GAN en inglés)”.
En este grupo entran los sistemas informáticos creados para "generar” un contenido nuevo a partir de uno ya existente. Intervienen componentes llamados codificadores y descodificadores. Al primero se le da una imagen para que este la "comprima" y poder obtener una copia sobre la que trabajar. El descodificador, a su vez, construye otra imagen a partir de esa copia en base a ciertas variables que hayan elegido sus creadores. Los decodificadores se entrenan con muchísimas imágenes de la persona de modo que vayan ganando cada vez más precisión.
Contándolo de una manera muy, muy simplificada, una vez que se han entrenado suficiente los decodificadores (que son los que van a generar la imagen nueva), se intercambian para que cada uno construya una imagen nueva a partir de la copia.
“Hacer un buen deepfake supone solamente entre 4 y 10 horas de trabajo. Es un tiempo mínimo para los resultados que se pueden obtener”, sostiene Padilla. Uno de los peligros que identifica esta profesora es que esta tecnología sí que está relativamente a mano para los especialistas que quisieran usarla, ya que su código fuente puede consultarse.
Su uso en España y en Europa no está directamente regulado pero sí incurre en un delito si afecta a la protección del honor, la intimidad, la propia imagen, etc. El reto, afirma, está en que la gente conozca que su uso en según qué contextos es un delito y que tengan la capacidad de detectarlos y denunciarlos. Hay redes sociales que también los han prohibido, como Facebook o YouTube.
Ahora bien, ¿son fáciles de detectar los deepfakes? “La tecnología del deepfake, lamentablemente, cumple unos estándares medios y sus mayores hándicaps son que es difícil detectarlos en pequeñas pantallas”, asegura Padilla. No es lo mismo que los vídeos se visualicen en una pantalla de ordenador con buena resolución a que lo hagan en una tablet o un teléfono móvil, donde los fallos más evidentes pueden pasar desapercibidos.
Esos fallos sí que están más o menos identificados gracias a las investigaciones que se han hecho en el campo de la comunicación: las personas que aparecen en los vídeos parpadean menos o con menos frecuencia, la boca puede no estar del todo definida en su interior, hay pequeños temblores o faltas de encaje entre el cuello y la cabeza, etc.
Si están bien hechos siguen siendo un tipo de producción difícil de detectar para un usuario que no está acostumbrado a tratar con ellas. Especialmente, si el tema va en línea con lo que esa persona piensa. Por ello, la recomendación a la hora de enfrentarse a un vídeo que huele raro, aparte de ser observadores, pasa por aplicar el sentido común como con cualquier otro tipo de desinformación. Y si tienes dudas, haz búsquedas, pregunta, pero no compartas.
“Afortunadamente, la amenaza es menor a las potencialidades negativas que se preveían tras su invención. En este entorno creo que el reto estaría entonces en cuidar y vigilar la comunicación interpersonal y en esas formas de venganza, de acoso o de bullying [por ejemplo, con el porno de venganza]. Ahí sí sigue siendo una amenaza”, concluye Padilla.
¿Por qué puedo descargar tantas aplicaciones para Android, pero para Apple siempre me hacen pagar?
Quizás al pasar de un teléfono Android a un iPhone o viceversa os habéis encontrado con que no sólo el manejo es distinto, sino que a la hora de descargar aplicaciones también hay diferencias. En los primeros usamos la tienda de aplicaciones Play Store, mientras que en los iPhone utilizamos la App Store, y si existen estas distinciones es porque para subirlas a esas plataformas los desarrolladores tienen que seguir procesos distintos. Os lo explicamos.
Lo primero que hay que tener en cuenta es que cada tienda de aplicaciones tiene sus propios procesos de revisión a la hora de aceptar una aplicación. Apple es más estricta para este paso concreto, por lo que muchas aplicaciones que a priori podrían llegar a entrar en la Play Store no llegan a estar disponibles para los iPhone.
“Todas las apps pasan por un control riguroso antes de ser publicadas. Estos controles están basados en unas reglas genéricas impuestas por Apple que no deben saltarse”, explica a Maldita Tecnología Mario Sánchez, desarrollador de aplicaciones móviles e ingeniero en Intersystems, quien además nos ha prestado sus superpoderes. En la Play Store, en cambio, “el sistema de aprobación no es tan riguroso”.
Sánchez explica que eso hace que cada cierto tiempo se den casos en los que tiene que retirarse una tanda de aplicaciones de Android porque tras un análisis independiente se descubre que son fraudulentas y desvían datos del usuario. Ya os contamos en qué podéis fijaros antes de descargar una app para evitar esos problemas.
“Cada aplicación, aunque parezca la misma para iOS y Android, tiene que seguir unas reglas específicas en cada una de ellas”, añade Rafael Ruiz Muñoz, otro maldito que nos presta sus superpoderes de programador de aplicaciones en Reino Unido. Como parte de ese proceso, la App Store revisa cada una de las aplicaciones enviadas (también porque se paga anualmente por poder meterla en la tienda), mientras que la Play Store tira más de revisiones automáticas, sin que haya una persona detrás. Eso puede hacer que se pasen por alto más fallos de seguridad o problemas técnicos.
“Recuerdo que mi primera aplicación en la Play Store ‘violaba’ uno de los términos y no fue prohibida hasta después de un año. Eso en la App Store no habría pasado ya que de entrada no la habrían aceptado”, admite Ruiz Muñoz.
Pese a que el producto final para el usuario puede ser el mismo (la versión final de una aplicación no va a variar prácticamente la usemos en un teléfono Android o en un iPhone), las aplicaciones no suelen desarrollarse de la misma manera. “Cualquier desarrollador que haya lanzado apps en sendas plataformas sabe que donde va a tener que sufrir estrés es en la App Store”, asegura Sánchez.
Este especialista explica que lanzar una aplicación para Android es “relativamente sencillo” porque su sistema es de código abierto y la app en sí puede crearse desde diferentes sistemas operativos: puede hacerlo en un ordenador de Windows, en uno de Apple, los MacOS, o con otro sistema operativo. Sin embargo, para desarrollar una aplicación para iOS, hace falta hacerlo con un Mac o con una plataforma que lo simule.
“Todo esto hace que la diferencia entre crear una aplicación iOS y una aplicación Android cree una desventaja a quien tenga que monetizar la aplicación iOS y por lo tanto se entiende que hay que monetizarlo con el usuario final”, señala Ruiz Muñoz.
Respecto a que las aplicaciones sean de pago, ambos desarrolladores coinciden en que los precios elevados que han caracterizado siempre a los productos Apple han creado la tendencia de pensar que una persona que compra un dispositivo de Apple tiene más poder adquisitivo, y por tanto no verá tan raro el tener que pagar por una aplicación. Ahora esa perspectiva es más difusa porque hay móviles Android que pueden llegar a costar mucho más que algunos modelos de Apple.
“La oferta de Android en apps gratuitas es mayor pues es mayor el número de apps”, resume Sánchez. Pero es que además, Apple solo tiene una tienda de aplicaciones donde proveerse, mientras que en Android es más sencillo encontrar aplicaciones en otras tiendas o páginas webs que no sean tan fiables. “Es decir, es más sencilla la piratería”, remarca.
¿Qué es el doomscrolling?
Este concepto es relativamente nuevo, pero aun así se ha hecho potente con los meses de confinamiento que tuvieron lugar casi a nivel mundial debido a la pandemia de SARS-CoV-2. ¿Cuántas veces ocupasteis vuestros minutos (o incluso vuestras horas) bajando y bajando por los tablones de vuestras redes sociales en vuestros móviles? Buscando nada en concreto pero leyendo sin parar noticias sobre el coronavirus y contenidos frustrantes. Eso, malditos y malditas, es el doomscrolling.
Doom en inglés significa “muerte” o “fatalidad” y scrolling es la acción de desplazarnos hacia abajo en las pantallas de nuestros dispositivos, tal y como hacemos con Facebook o Twitter para ver las publicaciones de nuestros contactos que van apareciendo.
Da igual que la red social en la que lo practiques, si es Twitter o incluso las páginas de resultados de Google. Esa acción de gastar (que no invertir) horas frente al teléfono a falta de una actividad más provechosa y menos desesperante se ha convertido en un fenómeno más del cual la tecnología es protagonista. Sin embargo, es muy fácil caer en él, especialmente desde que entró la COVID en nuestras vidas.
Principalmente, porque de todas maneras antes ya estábamos enganchados a nuestros móviles y a nuestras redes, pero cuando la información se volvió monotemática, parecía que todo lo que se podía leer o mirar era más amargo, relacionado con el avance del virus por el mundo, las personas fallecidas que dejaba y también las consecuencias económicas. Eso, según el estudio que enlazamos, también nos condicionaba a nivel psicológico.
Además, los algoritmos que colocan las publicaciones de redes sociales suelen potenciar que esos temas sean los que más veamos si son con los que más interactuamos nosotros o el resto de nuestros contactos, como ya os hemos explicado. De modo que contribuyen también a que nos encontremos con más y más información sobre el tema: el scroll de las redes sociales es infinito.
¿Por qué es importante hablar de este fenómeno? Bueno, como ya os habréis podido imaginar, esto tiene consecuencias negativas a nivel psicológico. Las personas consumimos información sin parar y estamos predispuestas a leer contenido aunque no sea positivo. Esto se debe al sesgo de la negatividad, que explica que como nos impactan este tipo de informaciones, también tendemos a fijarnos más en ellas.
Por otro lado, alienta aún más el debate sobre el papel que tienen las redes sociales en nuestra vida. ¿Cómo podemos depender tanto de ellas? ¿Hasta qué punto debemos dejar que influyan en nuestro estado de ánimo y nuestro día a día? Atajar una práctica como el doomscrolling pasa antes que nada por establecer una rutina de uso para nuestras redes sociales y rellenar los huecos de inactividad con algo para hacer que no implique usar el móvil.
Ese y otros consejos los recoge este artículo en The New York Times, que habló del doomscrolling recién comenzada la pandemia. En él recomiendan que además de fijar esos momentos de desconexión, procuremos fijar otros para usar el móvil para algo positivo. Por ejemplo, conectar con personas de nuestro entorno.
Esperad un pelín...
No somos técnicos o ingenieros pero contamos con mucha ayuda de personas que son expertas en su campo para resolver vuestras dudas. Tampoco podemos deciros qué servicio usar o dejar de usar, solo os informamos para que luego decidáis cuál queréis usar y cómo. Porque definitivamente, juntos y juntas es más difícil que nos la cuelen.
Si tienes cualquier duda sobre esta información o cualquier otra relacionada con la manera de la que te relacionas con todo lo digital, háznosla llegar:
En este artículo han colaborado con sus superpoderes los malditos Rafael Ruiz Muñoz y Mario Sánchez.
Gracias a vuestros superpoderes, conocimientos y experiencia podemos luchar más y mejor contra la mentira. La comunidad de Maldita.es sois imprescindibles para parar la desinformación. Ayúdanos en esta batalla: mándanos los bulos que te lleguen a nuestro servicio de Whatsapp, préstanos tus superpoderes, difunde nuestros desmentidos y hazte Embajador.
Primera fecha de publicación de este artículo: 10/11/2020.
