El Consorci Administració Oberta de Catalunya (Consorci AOC) impulsa la transformació digital de les administracions catalanes, per promoure governs àgils, lògics i col·laboratius i facilitar que les persones gaudeixin de serveis públics de qualitat i visquin en una societat oberta. El Consorci AOC treballa amb una clara vocació de servei a les administracions públiques i amb la voluntat d’anticipar-se de les necessitats futures que ja es preveuen en l’actual marc normatiu o que demanda la ciutadania. 

Entre aquestes necessitats, n’hi ha una que ja és ben present: la intel·ligència artificial (IA) s’ha convertit en part integrant de la nostra vida quotidiana. De fet, com apuntem a l’informe del ‘Radar d’algoritmes’, en què va participar l’AOC, els governs la fan servir per millorar l’accessibilitat i l’experiència dels serveis públics, optimitzar processos o gestionar l’espai públic, per exemple, també a Catalunya. Des de l’AOC, però, van detectar que tot i que els estats membres de la Unió Europea es comprometen a vetllar per un nivell adequat de transparència en l’ús dels algoritmes i la intel·ligència artificial perquè les persones puguin entendre el seu funcionament i estiguin informades i capacitades per utilitzar-los quan hi interactuïn, la normativa existent no estableix cap mecanisme “concret” per fer-ho. Per això, des de l’AOC han impulsat un estudi per trobar una “forma normalitzada” que permeti donar compliment al requisit de transparència dels algoritmes d’IA que s’apliquen als serveis d’administració digital i garantir que siguin entesos per la ciutadania. Així han creat i publicat al seu Portal de Transparència les ‘Fitxes de transparència algorítmica’, una solució àgil i senzilla que facilita el compliment del requisit de transparència establert a la normativa i permet aconseguir la confiança dels usuaris en els sistemes d’IA de les administracions públiques. Pots consultar el model de l’AOC aquí.

Aquestes fitxes volen:

• Ajudar les persones a comprendre com funcionen els algoritmes utilitzats a les administracions locals i quin és el seu propòsit.
• Garantir una transparencia significativa, de forma estandarizada, i permetre la comparació entre diferents algoritmes. 
• Facilitar que tothom pugui donar la seva opinió i participar en la creació d’algoritmes centrats en les persones.

L’estudi també els ha permès determinar quina és la informació rellevant que cal donar dels serveis públics basats en IA per tal que els usuaris puguin comprendre com els algoritmes prenen les decisions i com es verifiquen aquestes decisions. També han aprofundit en la identificació i l’anàlisi dels riscos més probables que comporta l’ús d’algoritmes d’IA en relació amb els drets fonamentals, i els han connectat amb les mesures que cal aplicar en cada cas per garantir el compliment d’aquests drets. 

Els algoritmes són la base dels sistemes d’IA i sovint es comporten com “caixes negres” per a les persones que els fan servir i afecten. Perquè això no passi, és imprescindible que els algoritmes puguin ser entesos pels usuaris, que aquests puguin comprendre com s’ha arribat a una determinada decisió i per què es pren aquesta decisió. Més encara en el cas del bon govern, que només pot funcionar quan hi ha confiança entre aquest i la ciutadania. ‘Una bona administració ha de permetre a tots els ciutadans comprendre els motius de les decisions i tenir la possibilitat d’impugnar-les’, recorden des de l’AOC. En aquest sentit, les ‘Fitxes de transparència algorítmica’, poden ser un recurs útil per a garantir-ho. 

Ara com ara, s’han publicat ja tres fitxes de transparència algorítmica que es poden consultar al web:

• Xatbots conversacionals de l’AOC.
• Videoidentificació per obtenir l’idCat Mòbil.
• Automatització de l’informe de pobresa energètica. 

Més informació sobre el projecte aquí.