El Consorci Administració Oberta de Catalunya (Consorci AOC) impulsa la transformación digital de las administraciones catalanas, para promover gobiernos ágiles y colaborativos y facilitar que las personas disfruten de servicios públicos de calidad y vivan en una sociedad abierta.  El AOC trabaja con una clara vocación de servicio a las administraciones públicas y con la voluntad de anticiparse a las necesidades futuras que ya se prevén en el actual marco normativo o que demanda la ciudadanía. 

Entre estas necesidades, hay una que ya es muy presente: la inteligencia artificial (IA) se ha convertido en parte integrante de nuestra vida cotidiana. De hecho, como apuntamos en informe del ‘Radar de algoritmos’, en que participó el AOC, los gobiernos la usan para mejorar la accesibilidad y la experiencia de los servicios públicos, optimizar procesos o gestionar el espacio público, también en Cataluña. Desde el AOC detectaron que, a pesar de que los estados miembros de la Unión Europea se comprometen a velar por un nivel adecuado de transparencia en el uso de los algoritmos y la inteligencia artificial para que las personas puedan entender su funcionamiento y estén informadas y capacitadas para utilizarlos cuando interactuen con ellos, la normativa existente no establece ningún mecanismo “concreto” para hacerlo. Por eso, desde el AOC han impulsado un estudio para encontrar una “forma normalizada” que permita dar cumplimiento al requisito de transparencia de los algoritmos de IA que se aplican en los servicios de administración digital y garantizar que sean entendidos por la ciudadanía. Así han creado y publicado en su Portal de Transparència las ‘Fitxes de transparència algorítmica’, una solución ágil y sencilla que facilita el cumplimiento del requisito de transparencia establecido en la normativa y permite conseguir la confianza de los usuarios en los sistemas de IA de las administraciones públicas. Puedes consultar el modelo del AOC aquí.

Estas fichas buscan:

• Ayudar a las personas a comprender como funcionan los algoritmos utilizados por las administraciones locales y cual es su propósito.
• Garantizar una transparencia significativa, de forma estandarizada, y permitir la comparación entre diferentes algoritmos.
• Facilitar que todo el mundo pueda dar su opinión y participar en la creación de algoritmos centrados en las personas.

El estudio también les ha permitido determinar cuál es la información relevante que hay que dar de los servicios públicos basados en IA para que los usuarios puedan comprender como los algoritmos toman las decisiones y como se verifican estas decisiones. También han profundizado en la identificación y el análisis de los riesgos más probables que comportan el uso de algoritmos de IA en relación con los derechos fundamentales, y los han conectado con las medidas que hay que aplicar en cada caso para garantizar el cumplimiento de estos derechos.

Los algoritmos son la base de los sistemas de IA y a menudo se comportan como “cajas negras” para las personas que interactuan con ellos. Para que esto no pase, es imprescindible que los algoritmos puedan ser entendidos por los usuarios, que estos puedan comprender como se ha llegado a una determinada decisión y por qué se toma esta decisión. Un buen gobierno solo puede funcionar cuando hay confianza entre él y la ciudadanía. ‘Una buena administración tiene que permitir a todos los ciudadanos comprender los motivos de las decisiones y tener la posibilidad de impugnarlas’, recuerdan desde el AOC. En este sentido, las ‘Fichas de transparencia algorítmica’, pueden ser un recurso útil para garantizarlo.

Por ahora, se han publicado ya tres fichas de transparencia algorítmica que se pueden consultar en la web del consorcio:

• Xatbots conversacionals de l’AOC.
• Videoidentificació per obtenir l’idCat Mòbil.
• Automatització de l’informe de pobresa energètica. 

Más información sobre el proyecto aquí.