MENÚ
Los algoritmos están presentes en nuestro día a día: ordenan las publicaciones que vemos en redes sociales, nos muestran los resultados de nuestras búsquedas clasificados según nuestros intereses y nos muestran los anuncios en los que piensan que podemos estar interesados. Pero también forman parte de mecanismos de toma de decisiones importantes como el conceder una subvención o prevenir delitos (de la policía predictiva también te hemos hablado en Twitch).
Esta semana, se han pasado por la Maldita Twitchería tecnológica Gemma Galdón, directora de Eticas Consulting y Eticas Foundation y José Miguel Calatayud, periodista especializado en investigación tecnológica, para explicarnos cómo se audita un algoritmo y para hablarnos el Observatorio de Algoritmos de Impacto Social que han puesto en marcha, donde clasifican los diferentes algoritmos públicos y privados que nos rodean.
A partir de diferentes fuentes de datos, un algoritmo toma decisiones según el peso otorgado a cada variable
“Un algoritmo, en el fondo, es un reglamento, una serie de pautas o instrucciones sobre cómo ponderar diferentes variables, como sucede por ejemplo en el GPS, en el que se vierten datos sobre cómo nos solemos mover en las ciudades e identificar patrones de rutas más eficientes, así como ser capaz de reestructurar la movilidad en el caso de imprevistos como obras o accidentes”, comienza Gemma Galdón. “De la misma manera, en las redes sociales también se suele programar el algoritmo para que muestre las publicaciones o vídeos que tengan mayor capacidad de atracción y de permanencia en las plataformas, según lo que han visto los usuarios y sus acciones”, añade.
¿Cómo sabemos cómo funcionan esos algoritmos? “Lo primero es comprobar que los datos de los que se nutren los algoritmos para verificar que todos los grupos están representados, porque históricamente quien los diseña es un hombre blanco y se tiene en cuenta que, tradicionalmente, ellos eran los que tenían capacidad económica y los cabezas de familia”, comienza Galdón. Añade que “luego tenemos que visualizar la fase de implementación: muchas veces no es el propio algoritmo el que toma la decisión sino el que la sugiere, y el funcionario o empleado que reciba esta sugerencia puede no estar formado y reinsertar su propio sesgo en el proceso decisorio”.
La dificultad de auditar un algoritmo cuyo código no está disponible públicamente
Existen algoritmos cuyo código es público, y se puede consultar, y otros en los que es imposible ver de qué datos se ha alimentado y cómo está programado. Para solventar esto, la experta comenta que lo que se suele hacer es "evaluar el impacto: programamos una automatización que represente diferentes tipos de personas y que analice los resultados que cada algoritmo le da a cada uno, por lo que podemos hacer ingeniería inversa para comprender cómo se lleva a cabo la toma de decisiones”.
El Observatorio de Algoritmos de Impacto Social
Con la entrada de José Miguel Calatayud a la transmisión hablamos de cómo surge el Observatorio de Algoritmos de Impacto Social, impulsado por Eticas Foundation. “Uno de los retos en términos políticos es que exista un registro de algoritmos que recoja toda la información sobre cada uno, y queríamos hacer esto pero que a la vez fuese usable y útil”, introduce Galdón. Para Calatayud, el objetivo del Observatorio “era tener definir a la perfección las categorías, que sepamos de qué estamos hablando y en la que se pudiese explicar todo para que se entendiese”.
“La herramienta que hemos creado permite organizar y catalogar todos los algoritmos que hemos analizado por su dominio o impacto social, para que así quien quiera pueda entender qué consecuencias tiene este algoritmo y dónde se utiliza”, comenta Calatayud. Por ejemplo, algunos de los algoritmos que se encuentran en el observatorio son el que hace las recomendaciones de vídeos de YouTube, el que intenta predecir el riesgo de embarazos en adolescentes (usado en Argentina) o el que utiliza American Express para identificar patrones de gastos.
