MENÚ
MALDITA TECNOLOGÍA

Hablamos en Twitch sobre las auditorías de algoritmos: ¿cómo podemos saber si funcionan?

Publicado
Comparte
Etiquetas

Los algoritmos están presentes en nuestro día a día: ordenan las publicaciones que vemos en redes sociales, nos muestran los resultados de nuestras búsquedas clasificados según nuestros intereses y nos muestran los anuncios en los que piensan que podemos estar interesados. Pero también forman parte de mecanismos de toma de decisiones importantes como el conceder una subvención o prevenir delitos (de la policía predictiva también te hemos hablado en Twitch). 

Esta semana, se han pasado por la Maldita Twitchería tecnológica Gemma Galdón, directora de Eticas Consulting y Eticas Foundation y José Miguel Calatayud, periodista especializado en investigación tecnológica, para explicarnos cómo se audita un algoritmo y para hablarnos el Observatorio de Algoritmos de Impacto Social que han puesto en marcha, donde clasifican los diferentes algoritmos públicos y privados que nos rodean.

A partir de diferentes fuentes de datos, un algoritmo toma decisiones según el peso otorgado a cada variable

Un algoritmo, en el fondo, es un reglamento, una serie de pautas o instrucciones sobre cómo ponderar diferentes variables, como sucede por ejemplo en el GPS, en el que se vierten datos sobre cómo nos solemos mover en las ciudades e identificar patrones de rutas más eficientes, así como ser capaz de reestructurar la movilidad en el caso de imprevistos como obras o accidentes”, comienza Gemma Galdón. “De la misma manera, en las redes sociales también se suele programar el algoritmo para que muestre las publicaciones o vídeos que tengan mayor capacidad de atracción y de permanencia en las plataformas, según lo que han visto los usuarios y sus acciones”, añade.

¿Cómo sabemos cómo funcionan esos algoritmos? “Lo primero es comprobar que los datos de los que se nutren los algoritmos para verificar que todos los grupos están representados, porque históricamente quien los diseña es un hombre blanco y se tiene en cuenta que, tradicionalmente, ellos eran los que tenían capacidad económica y los cabezas de familia”, comienza Galdón. Añade que “luego tenemos que visualizar la fase de implementación: muchas veces no es el propio algoritmo el que toma la decisión sino el que la sugiere, y el funcionario o empleado que reciba esta sugerencia puede no estar formado y reinsertar su propio sesgo en el proceso decisorio”.

La dificultad de auditar un algoritmo cuyo código no está disponible públicamente

Existen algoritmos cuyo código es público, y se puede consultar, y otros en los que es imposible ver de qué datos se ha alimentado y cómo está programado. Para solventar esto, la experta comenta que lo que se suele hacer es "evaluar el impacto: programamos una automatización que represente diferentes tipos de personas y que analice los resultados que cada algoritmo le da a cada uno, por lo que podemos hacer ingeniería inversa para comprender cómo se lleva a cabo la toma de decisiones”.

El Observatorio de Algoritmos de Impacto Social

Con la entrada de José Miguel Calatayud a la transmisión hablamos de cómo surge el Observatorio de Algoritmos de Impacto Social, impulsado por Eticas Foundation. “Uno de los retos en términos políticos es que exista un registro de algoritmos que recoja toda la información sobre cada uno, y queríamos hacer esto pero que a la vez fuese usable y útil”, introduce Galdón. Para Calatayud, el objetivo del Observatorio “era tener definir a la perfección las categorías, que sepamos de qué estamos hablando y en la que se pudiese explicar todo para que se entendiese”. 

“La herramienta que hemos creado permite organizar y catalogar todos los algoritmos que hemos analizado por su dominio o impacto social, para que así quien quiera pueda entender qué consecuencias tiene este algoritmo y dónde se utiliza”, comenta Calatayud. Por ejemplo, algunos de los algoritmos que se encuentran en el observatorio son el que hace las recomendaciones de vídeos de YouTube, el que intenta predecir el riesgo de embarazos en adolescentes (usado en Argentina) o el que utiliza American Express para identificar patrones de gastos. 

Hazte maldito, Hazte maldita
Te necesitamos para combatir los bulos y la mentira: sólo juntos podemos pararla. En Maldita.es queremos darte herramientas para protegerte contra la desinformación, pero sólo con tu apoyo será posible.

Eres muy importante en esta batalla para que no nos la cuelen. Seguro que tienes conocimientos útiles para nuestra batalla contra los bulos. ¿Tienes conocimientos de idiomas? ¿Lo tuyo es la historia? ¿Sabes mucho sobre leyes? ¡Préstanos tu Superpoder y acabemos juntos con los bulos!

También puedes apoyarnos económicamente. Maldita.es una entidad sin ánimo de lucro y que sea sostenible e independiente, libre de publicidad y con profesionales bien remunerados dedicados a luchar, contigo, contra la desinformación depende de tu ayuda. Cada aportación cuenta, cualquier cantidad es importante.