MENÚ
1. ¡Buenos días! Que el asistente virtual ponga la radio
Suena el despertador por la mañana y antes incluso de lavarte la cara, pides a Alexa que reproduzca la emisora Radiolé. La voz que sale del altavoz inteligente Echo de Amazon que soporta a Alexa te pregunta antes de seguir tu orden: “¿Quieres que reproduzca la emisora Radiolé?”. Tras tu afirmación, el software instalado busca la emisión online de la cadena pedida: “Reproduciendo la emisora Radiolé”.
2. ¿Qué se cuenta hoy en las redes sociales?
Mientras desayunas, te entretienes leyendo hilos de Twitter, bajando y bajando en la pantalla pero sin encontrar el fin de los mensajes nunca. Por defecto, Twitter muestra los tuits que considera más relevantes para ti porque hay un sistema automatizado detrás que está constantemente analizando a qué das me gusta, a quién sigues, con quien interactúas más o qué publicas, entre otras cosas… y se acuerda de todo: también de ese tuit al que le diste like sin querer en 2012.
Es preciso marcar manualmente que los tweets vayan apareciendo en orden si no quieres que los cálculos de la red social decidan por ti lo que ves primero y lo que no. Es el mismo sistema que también te recomienda gente a seguir en función de las personas a las que ya sigues o cuyos mensajes retuiteas. ¿Qué gana Twitter con esto? Con esa clase de datos, le permite a los anunciantes decidir si eres para ellos un objetivo comercial o no: los tweets promocionados que ves tú no son los mismos que ve tu madre porque la publicidad online se puede dirigir.
3. Buscar un atajo para llegar a trabajar
Llega la hora de salir y tiras una vez más de Alexa para enterarte del tiempo. “Alexa, dime el tiempo que va a hacer hoy”. Un escaneo por los portales de meteorología que tiene instalados te ofrece las previsiones del tiempo para el día. Alexa sabe donde vives.
Y Google Maps también. Una vez en la calle, el tráfico está imposible así que acudes a este callejero o a Waze para buscar alternativas a la ruta habitual. Estas apps también funcionan a base de realizar cálculos y estimaciones con los datos que obtienen del tráfico. ¿Cómo cuáles? Los proporcionados por las direcciones de tráfico, los que aportan voluntariamente los propios usuarios y también con aquellos que pueda extraer de los servicios de Google. Es decir, una corriente ilimitada de datos sobre meteorología, estado de las carreteras, peajes y también de posicionamiento si, por ejemplo, tienes la localización del móvil activada.
4. Ya has llegado... Te espera tu ordenador
Finalmente llegas al trabajo, donde el ordenador personal está ya más que hecho a medida. Y no solo por el taco de notas de al lado del monitor o la taza de café que lo hacen un poco más nuestro, sino por el navegador y el buscador que utilizamos para todo lo que hacemos en la red. Google Chrome es el más utilizado con diferencia: más de la mitad del mundo lo elige como opción. Y el buscador de Google puede cruzar las búsquedas que haces con las de YouTube, por ejemplo, al igual que con el resto de servicios de la tecnológica.*
Esta recopilación masiva de tu actividad en la web es lo que hace, entre otras cosas, que cuando realizas una búsqueda en Google los primeros enlaces que aparecen son los de aquellos sitios más proclives a gustarte. O que sepa exactamente qué recomendarte que compres cuando te metes en páginas web con publicidad. Navegando en una ventana de incógnito podremos parar las cookies, pero no otro tipo de rastreadores un pelín más sofisticados.
5. Spotify sabe exactamente qué necesitas
Por fin termina la jornada y vamos a por una buena dosis de deporte. Pones tu playlist energética en Spotify que, además de ofrecerte tus propias listas, te recomienda una variedad infinita de canciones y grupos similares porque nota que estás en modo deportista. ¿Qué cómo lo sabe? Ya hay argumentos suficientes para asegurar que Spotify es capaz de conocer tu estado de ánimo en base a las canciones que escuchas, y su algoritmo es capaz de clasificar las piezas musicales según el momento (incluso en modo aleatorio).
6. Y tu reloj inteligente... también
Además, esa sesión en el gimnasio o al aire libre no ha transcurrido sin más, sino que probablemente has aprovechado para usar el último smartwatch de Apple que te han regalado por navidades con GPS incorporado, sensores de medición del ritmo cardíaco o consumo de oxígeno que toman datos directamente de tu muñeca y que también administran mediante un sistema automatizado de cálculos para ofrecer resultados.
Incluso sin el Apple Watch, si siempre llevas el móvil encima cuando sales a correr quizás te sorprenda saber que hay una aplicación preinstalada en tu iPhone que va recogiendo el número de kilómetros y la velocidad a la que corres. Ya de paso también cuenta cuántas horas duermes, hace estadísticas y puntúa tu “salud”. Mientras no lo sepa la aseguradora con la que acabas de contratar un seguro médico todo en orden… ¿o no?
7. Si no sabes qué cenar, Internet te lo aclara
Y si después de todo el día decides cenar fuera pero sin tener muy claro dónde ir, probablemente acudas a un portal de valoración de restaurantes que tome la decisión por ti. ¿Cómo sabía TripAdvisor que ya había pensado en ir a ese restaurante nuevo que han abierto en el centro? Probablemente un escaneo por los sitios a los que sueles acudir le han dado una idea de a cuál podrías ir ahora.
Son siete ejemplos sencillos de algoritmos implementados en sistemas que proporcionan información al instante que además se ajusta a tus gustos, preferencias, rutinas y personalidad, y con los que interactúas fácilmente prácticamente todos los días de tu vida. En cierto modo, seguro que ya los conocías pero, ¿qué pasa con aquellos sistemas que funcionan de forma automática pero que toman decisiones más severas en tu vida?
Cuando un algoritmo puede decidir si te mereces un crédito, cuál debería ser tu nivel de sueldo o si eres una persona apta para una subvención
Lo curioso es que los servicios que se han mencionado arriba son proporcionados por algunas de las multinacionales digitales que más información personal recaban de su comunidad de usuarios y a la que podrían acceder otras empresas. Empresas que podrían llegar a ser un futuro lugar de trabajo, bancos que podrían conceder un crédito, divisiones policiales que analizan si una persona podría llegar a cometer un crimen o instituciones públicas que decidan si es apta para una subvención o no. Este tipo de decisiones también las están tomando algoritmos y esto está trayendo problemas.
“En un mundo donde todas las personas y procesos generan datos de forma permanente, la capacidad de los algoritmos de procesar estos datos masivos en tiempo real es la razón por la que hablamos cada vez más de ellos”, explica Gemma Galdón, presidenta de la fundación Éticas, dedicada la investigación sobre la incidencia social de la tecnología. “Sin embargo, en el mundo real la aplicación práctica de los algoritmos en contextos de impacto social ha mostrado ya su cara más perniciosa”, añade.
Los algoritmos no toman decisiones “perfectas”
Veamos un ejemplo muy sencillo: hace un par de años, una usuaria denunció en Twitter que los puestos de trabajo que le eran ofrecidos en LinkedIn variaron en función de si en su cuenta seleccionaba que era un hombre o una mujer. Si mantenía su género, la mayoría de las ofertas eran de secretaria en función de su CV. Cuando cambiaba al masculino, cargos de mayor rango empezaron a aparecer sin variar la experiencia profesional. Estos cambios los realiza el propio sistema de la red de empleo, que clasifica la información proporcionada en cada perfil y la cruza para encontrar trabajos que se ajusten a ella.
“Si los algoritmos quieren capturar procesos sociales e incidir sobre oportunidades vitales, quienes los desarrollan deberán demostrar que cuentan con herramientas para comprender la complejidad de la sociedad, atravesadas por prejuicios, sesgos e injusticias que no deben reproducirse y amplificarse en sistemas algorítmicos”, explica Galdón.
Otro ejemplo más complicado pero con la misma aplicación de un sesgo: Apple creó a finales de 2019 una tarjeta de crédito que podía vincularse a iPhone para monitorizar el gasto a todo nivel y que concede líneas de crédito. Es un algoritmo el que decide la cuantía a prestar y poco después de su lanzamiento este proceso ya puso a la tecnológica en un aprieto. Varios usuarios (hombres) denunciaron que a sus respectivas mujeres les concedían una línea más baja, cuando las cuentas bancarias y las propiedades reflejaban las mismas transacciones económicas. ¿Fue el sexo de cada uno lo que determinó el crédito a conceder en este caso?
¿Y qué hay de aquella entrevista de trabajo que hiciste enviando un vídeo respondiendo a unas preguntas marcadas por la empresa? ¿Alguna vez te has preguntado si hay una persona detrás viendo todos los vídeos o en vez un sistema informático que desecha aquellos de aspirantes que no cumplen con ciertos requisitos?
A día de hoy no existe una regulación específica sobre qué decisiones pueden tomar los algoritmos y cuáles no
“La desregulación del espacio algorítmico es tal que no existen aún espacios de escrutinio sobre cómo estos sistemas toman decisiones o qué derechos tienen aquellos que se someten a ellas”, cuenta Galdón. “Para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Pueden las auditorías algorítmicas ser esa herramienta?”, se pregunta.
¿Y qué es una auditoría algorítmica? Sería el equivalente a un proceso legal mediante el cual se estudia un algoritmo, su funcionamiento y sus efectos y consecuencias para deliberar si funciona como debe, sin discriminar a las personas, y si se ajusta a la ley. En resumen, someterlos a control antes de que se comiencen a usar.
No olvidemos los ejemplos más sencillos con los que ha empezado este artículo y que seguramente ahora vemos más “inofensivos”. Sin embargo, están relacionados, porque de una manera u otra contribuyen a la recolección masiva de datos de cada usuario y que terminan creando la identidad digital de cada uno. Y esa identidad es la que terminará definiendo lo que otro algoritmo pueda extraer de ti, para luego tomar una decisión a la que será tremendamente difícil recurrir.
* Hemos actualizado este artículo para especificar la relación entre el navegador Google Chrome y el resto de servicios de Google.
Primera fecha de publicación de este artículo: 26/02/2020.
