MENÚ
¿Podemos ser gobernados por máquinas? ¿Pueden los sistemas basados en inteligencia artificial ofrecer una gobernanza justa y adecuada a las necesidades de las personas? Aunque con estas preguntas puede parecer que hablamos de un futuro lejano, el debate sobre el papel de las nuevas tecnologías en la democracia ya se ha abierto al igual que con el resto de sectores privados y de la administración: los algoritmos rigen aspectos de nuestra vida cotidiana al hacer cosas como programar el trabajo de los ‘riders’ o identificar cuáles son tus emociones y estado de ánimo durante una entrevista de trabajo.
Algunos estudios ya señalan que las recomendaciones de un algoritmo que (a priori) conoce nuestros gustos y preferencias podría afectarnos a la hora de elegir un candidato político, pero la siguiente pregunta es sobre la capacidad de estos programas para gobernar o legislar. Si, por ejemplo, un algoritmo podría estar capacitado para marcar los requisitos mínimos para acceder a una ayuda por desempleo, organizar de forma consensuada una ley educativa o para fijar las cuotas de pesca en aguas nacionales. En los últimos años, algunas encuestas se han empeñado en decir que sí.
Un 68% de los españoles estaría a favor de dar poder legislativo a algoritmos, según la IE University
El debate se abordó en el último ‘European Tech Insights’, un informe elaborado anualmente por la IE University. En el estudio se realizó una encuesta a 2.769 ciudadanos de once países sobre diferentes asuntos relacionados con la innovación tecnológica. Sobre inteligencia artificial y democracia se realizó la siguiente pregunta: “¿Qué le parecería reducir el número de parlamentarios nacionales en su país y dar esos escaños a un algoritmo de inteligencia artificial que tuviera acceso a sus datos para optimizar sus intereses?”.
Según los resultados de la encuesta, un 68% de los españoles estaría de acuerdo en sustituir el número de parlamentarios para darle parte de estos poderes legislativos a algoritmos. Se trata del país europeo con el mayor porcentaje seguido por Italia (59%) y Estonia (56%).
Analizando los datos globales por tramos de edad, los jóvenes de 25 a 34 años serían los más partidarios de esta medida, con un porcentaje de aceptación del 60%. La mayoría de personas de más de 55 años, sin embargo, se situaría en contra de automatizar la vida política de su país.
El dato que el mismo estudio arrojó en 2019 fue bastante distinto, con sólo un 26% de los españoles a favor. Aunque también hay que tener en cuenta que la pregunta fue diferente: “¿Qué le parece dejar que una inteligencia artificial tome decisiones importantes sobre la gestión del país?”. En esta primera encuesta no se incluyó la frase “tener acceso a los datos para optimizar sus intereses”, que da a entender que esos algoritmos podrían ‘entender’ las necesidades de la ciudadanía.
Gemma Galdón, auditora de algoritmos y directora de Eticas Consulting, explica a Maldita.es que hay que ser cuidadosos con este tipo de encuestas ya que unen dos factores, el de menos cargos políticos y el del uso de algoritmos, que se entienden de manera muy distinta a la hora de dar una respuesta.
“La gente entiende la primera parte, la de reducir parlamentarios, y este tema ha estado al alza en los últimos años a través de los discursos populistas. La segunda parte de la pregunta no se entiende: nadie sabe lo que es un algoritmo de inteligencia artificial y si les preguntasen por ello se responderían cosas muy diferentes o no se sabría qué contestar”, considera la experta.
La desconfianza hacia la clase política y la corrupción, dos puertas de entrada para la automatización
Tanto Galdón como el estudio citan el cansancio por la clase política como un factor a tener en cuenta, aunque de manera distinta. Esta cuestión ha estado muy presente en España en la última década: según el barómetro del CIS, la corrupción y el fraude siguen siendo una de las principales causas de malestar y preocupación de la ciudadanía. Un 16,9% lo citó entre los tres principales problemas en marzo de 2020 después de alcanzar picos de hasta el 63,8% en noviembre de 2014.
Refuerza esta idea el hecho de que una de las principales preocupaciones de la ciudadanía en 2019 eran ‘los políticos en general, los partidos políticos y la política’: fue marcada por un 49,5% de los encuestados.
Si vinculamos esta desconfianza con el ámbito tecnológico, uno de los pensamientos que nos lleva inconscientemente a confiar en el trabajo de los algoritmos es la sensación de que si la decisión la toma una máquina, esta no estará marcada por la pasión, los sesgos, la injusticia o la corrupción. En varias ocasiones se ha demostrado que los algoritmos presentan sesgos y perpetúan estereotipos al igual que lo hacen las personas.
Sobre esta idea trabaja el catedrático de Filosofía Política Daniel Innenarity en su texto ‘El impacto de la Inteligencia Artificial en la democracia’, en el que analiza en profundidad la automatización de la política y la fe ciega en los sistemas de inteligencia artificial.
“De entrada no deberíamos minusvalorar el riesgo de que el tecnoautoritarismo resulte cada vez más atractivo en un mundo en el que la política cosecha un largo listado de fracasos. Hay quien sostiene que los algoritmos y la inteligencia artificial pueden distribuir los recursos más eficientemente que el pueblo irracional o mal informado. Una nueva especie de populismo tecnológico podría extenderse bajo la promesa de una mayor eficiencia”, afirma el académico.
Usar la tecnología para gobernar y no que gobierne la tecnología
En su estudio Daniel Innnenarity identifica dos áreas de la política en las que los algoritmos ya empiezan a jugar un papel importante: la valoración de las políticas públicas y el conocimiento de las preferencias sociales como herramientas que permiten acceder a “fuentes más dispersas y competitivas, en principio menos ideologizadas”. Es decir, la idea de que al acceder a datos de forma más ágil y automática, no se caerá tanto en la ideología y en los tratos de favor. Pero eso no implica que se deban usar programas informáticos para decidir cuestiones vitales de la ciudadanía.
En Nueva Zelanda ya han dado el paso con la creación del prorgrama SAM, que fue presentado en 2017 por el gobierno del país como el “primer político virtual del mundo”. ¿Qué funciones cumple realmente? En su página web, SAM invita a los ciudadanos a que le manden sus preguntas, puntos de vista y propuestas a través de un chat y una encuesta para así estudiar “el impacto de las posibles decisiones de todos y promover una mejor política”.
Esto no significa que este primer proyecto de ‘político virtual’ tenga capacidad de decisión en la vida pública de su país. Según explica el Gobierno neozelandés, SAM puede procesar opiniones de la ciudadanía, recopilar información de prensa nacional y local, aprender automáticamente de las peticiones de las personas y crear un gran archivo de políticas públicas.
Aunque todavía no tenga este poder de decisión y sólo esté activo para recopilar opiniones y preferencias sociales, SAM pretende “iniciar una conversación sobre el futuro papel de la tecnología y la IA en la política”. Mientras tanto, sus creadores se muestran ambiciosos sobre el futuro de este primer político virtual: “No descarta presentarse a las elecciones algún día”.
