MENÚ
Por si la inteligencia artificial no tuviera bastante complejidad, el enjambre de organizaciones y propuestas que están surgiendo en torno a ella también se las trae. SEDIA, AESIA, OBISAL, ONSTI, ‘sandbox’… Son muchas siglas y términos para recordar. Así que, para intentar arrojar luz sobre ello, vamos a hacer un repaso por lo que ya existe, lo que está sobre la mesa y la relación entre todo para que puedas tener una guía actualizada sobre la IA en España. ¡Apunta!
¿Qué es la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA)?
La SEDIA de España es el órgano superior del Ministerio de Asuntos Económicos y Transformación Digital que depende de la Vicepresidencia primera del Gobierno y es supervisada actualmente por Carme Artigas Brugal, que ejerce como secretaria de Estado de Digitalización e Inteligencia Artificial.
Fue creada en 2020 y según la página oficial del Gobierno sus competencias tienen que ver con la política de impulso a la digitalización de la sociedad y economía. Sus funciones son: el fomento y regulación de los servicios digitales y de la economía y sociedad digitales; la interlocución con los sectores profesionales, industriales y académicos; el impulso de la digitalización del sector público y la coordinación y cooperación interministerial y con otras administraciones públicas respecto a dichas materias, según desglosan en el portal.
Dicho de manera más llana y para entendernos, “la SEDIA es el espacio político del que se hacen depender toda las iniciativas de digitalización y por ende de inteligencia artificial que desarrollan o promueven España; es un actor clave en la promoción de la digitalización”, resume Gemma Galdón, directora de Eticas Consulting y Eticas Foundation y auditora de algoritmos.
“Además de gestionar proyectos y redes, también tiene competencias en la observación del uso de la IA y la implementación de la regulación sobre los algoritmos. Uno de los proyectos que se ocupa de esto es el ONTSI que se enmarca dentro de la Entidad Pública Empresarial Red.es, adscrita a la misma SEDIA”, añade Manuel Portela, investigador postdoctoral del grupo de investigación de Ciencia Web y Computación Social de la Universitat Pompeu Fabra.
¿Qué es el Observatorio Nacional de Tecnología y Sociedad (ONTSI)?
El ONTSI tiene como propósito generar conocimiento de valor para las políticas públicas (y para la intervención empresarial y ciudadana) en torno al desarrollo tecnológico y sus distintos impactos en la economía, el empleo, los servicios públicos, los derechos, la seguridad, la calidad de vida y la igualdad entre las personas.
Para ello, lo que hace este observatorio es realizar informes, estudios e indicadores donde analiza tendencias y radiografía el panorama de temáticas como derechos digitales, competencias digitales, mujeres y digitalización, economía digital y ciberseguridad. Algunas de sus últimas publicaciones son ‘Cómo se protege la ciudadanía ante los ciberriesgos. Estudio sobre percepción y nivel de confianza en España’ o ‘Robotización y automatización. Oportunidades para la sociedad española’, ambos de 2022. Es decir, el ONTSI es un centro que observa, documenta y genera contenido.
¿Qué es el Observatorio sobre el Impacto Social de los Algoritmos (OBISAL)?
Este otro observatorio aún no ha sido creado, aunque se anunció en julio de 2021. En teoría, será dependiente del ONTSI y extenderá alguna de sus tareas. En particular, “el OBISAL estaría encargado de desarrollar los indicadores de referencia que se usarán para auditar algoritmos, ya sean privados o públicos”, explica Portela. Es decir, el objetivo es sentar las bases de una metodología para llevar a cabo las auditorías algorítmicas, como evaluar el riesgo que plantea la aplicación de cada algoritmo (el reconocimiento facial o los sistemas de puntaje, por ejemplo) y preparar mecanismos de auditoría para asegurarse de que no discriminan por raza, género o renta (los llamados sesgos algorítmicos), explican en el portal de España Digital.
Según publicaba El País hace un año, este observatorio estaba “en proceso de captación de expertos y de constitución de grupos de trabajo sectoriales para analizar los sistemas de IA”. Sin embargo, desde entonces no ha habido más noticias, probablemente tras el cese de la directora del ONTSI, Lucía Velasco, en 2022, cree Portela.
¿Qué es la Agencia Española de Supervisión de la IA (AESIA)?
Es otro de los organismos que ha sido anunciado y está por llegar. Con los Presupuestos Generales del Estado destinados a 2022 se aprobó la creación de una Agencia Española de Supervisión de la Inteligencia Artificial (una propuesta de Más País), que recibirá una dotación de cinco millones de euros.
Algunas organizaciones civiles, como Algorights, están atentas a cómo se creará y cuáles serán sus capacidades. De momento, faltan muchas cosas por concretar (no queda claro si presentará herramientas para la ciudadanía o si se centrará solo en la auditoría algorítmica, como os contábamos en Maldita.es a principios de año) y no hay una fecha exacta para su creación, pero vamos a detallar lo que sí sabemos.
Sabemos que es un espacio de supervisión de iniciativas de inteligencia artificial. Lo que se indicó en la publicación del Boletín Oficial del Estado es que llevará a cabo “medidas destinadas a la minimización de riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de IA”.
“Si bien la AESIA será un nuevo organismo que estará adscrito a la SEDIA, este podrá ser radicado en el territorio fuera de la capital, de acuerdo con el Real Decreto 209/2022 de 22 de marzo. Por esta razón algunas Comunidades Autónomas como Galicia o Andalucía han pujado por ser sede de la AESIA”, explica Portela de la Universitat Pompeu Fabra.
¿De dónde viene la motivación de su creación? De la regulación de la inteligencia artificial propuesta el pasado 21 de abril de 2021 por la Comisión Europea y debatida en el Parlamento Europeo, que aún está pendiente de aprobar. “El futuro Reglamento Europeo de la Inteligencia Artificial de la Comisión Europea ya prevé que se creen instancias nacionales de supervisión para auditar y vigilar el uso de la IA, con lo cual la AESIA podría ser ese modelo de agencia al que obligaría cuando se apruebe”, explica Galdón de Eticas Consulting y Eticas Foundation.
Además, como recuerda Portela, España asumirá la presidencia del Consejo de la Unión Europea el segundo semestre de 2023 y se ha ofrecido también como “país de pruebas para testear la nueva regulación de la inteligencia artificial que se discute en estos momentos en Europa”. Aquí entra en juego otra palabra que apuntar: ‘sandbox’.
¿Qué es el ‘sandbox’ de regulación de inteligencia artificial?
El Reglamento de la IA propuesto por la Comisión Europea entrará en vigor previsiblemente en 2023. Lo que ha hecho España es proponerse como “conejillo de indias” y adelantar la implantación a través de un piloto para poner en marcha el primer ‘sandbox’ (un entorno controlado donde las compañías tecnológicas y otras instituciones pueden probar nuevos productos) regulatorio de la Unión Europea sobre Inteligencia Artificial.
Se anunció el pasado 27 de junio, tiene como fecha prevista de lanzamiento octubre de 2022 y su objetivo es “conectar a las autoridades competentes con las compañías desarrolladoras de IA para definir de forma conjunta buenas prácticas a la hora de implementar la futura regulación europea”. Es decir, se trataría de una antesala para ir haciendo pruebas e identificando qué hacer y qué no hacer, para que luego se pueda hacer seguimiento del reglamento.
Esto es algo que suscita dudas y preguntas porque, por definición, ‘sandbox’ no encaja demasiado bien con “testear” una regulación. “Del ‘sandbox’ tenemos muy poca información y cuesta entender lo que se propone en términos conceptuales, porque un ‘sandbox’ es un espacio para desarrollar sin limitación regulatoria, precisamente para ver hasta dónde puede llegar la tecnología y después pensar las limitaciones y regulaciones necesarias”, detalla Galdón. Por eso, para la experta es difícil comprender cómo se va a hacer un piloto sobre regulación en un espacio donde teóricamente no se tiene en cuenta la regulación.
¿Qué es la Estrategia Nacional de la Inteligencia Artificial en España?
Por último, cerramos este compendio con la Estrategia Nacional de la Inteligencia Artificial en España: se publicó en 2020, se enmarca dentro de la estrategia España Digital 2025 y entre sus objetivos está desarrollar la normativa necesaria para permitir ‘sandboxes’ regulatorios para probar la aplicación de la IA en distintas áreas, y establecer un mecanismo de asesoramiento para analizar y verificar el desarrollo y la implementación segura y confiable de tecnologías basadas en IA. Como vemos, se repiten conceptos y objetivos.
¿Hay alguna relación entre la Estrategia Nacional de la Inteligencia Artificial en España y el Reglamento Europeo de la Inteligencia Artificial de la Comisión Europea? “No, estamos hablando de cosas muy diferentes. La Estrategia Nacional de la Inteligencia Artificial en España lo que hace es plantear prioridades de inversión, y el reglamento europeo es regulación. No tienen nada que ver, además la estrategia nacional está aprobada y el reglamento aún está en discusión”, afirma Galdón.
Sí, como hemos visto, hay muchos agentes y mucho interés a nivel nacional y europeo. Y es que, como hemos contado varias veces en Maldita.es, la inteligencia artificial empieza a permear en muchas capas de la sociedad, y por tanto en sus órganos de gobierno, ministerios y agencias, que tienen que reaccionar a estos cambios tecnológicos y regularlos. ¿Que por qué hace falta regular la inteligencia artificial? Te animamos a ver la Twitchería que hicimos sobre este tema, en la que recogemos motivos y ejemplos.
Podemos concluir que, como resume Gemma Galdón, “hay un gran ecosistema de regulación y actores de policy involucrados en determinar cómo se desarrolla e implementa la tecnología en España. El éxito de la Estrategia de Digitalización pasará por la capacidad de organizar y poner a trabajar conjuntamente a todo el ecosistema, no desde compartimentos estancos”.
