En l’última dècada, la IA s’ha desenvolupat de forma exponencial i cada vegada està més integrada en la vida quotidiana de les persones. En aquest context, diverses Administracions Públiques ja compten amb aquesta tecnologia per ajudar-les en diferents tasques. Amb l’objectiu que les entitats del tercer sector social, i la ciutadania en general, coneguin com s’estan utilitzant aquests sistemes en l’àmbit social i quin impacte poden tenir en l’accés i garantia dels drets socials a Catalunya, des de m4Social hem impulsat l’estudi ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya‘. L’informe, elaborat conjuntament amb KSNET, vol contribuir al debat actual sobre la IA i posar les bases perquè aquesta tecnologia faciliti una resposta més àgil i ràpida de l’Administració a situacions de vulnerabilitat.

L’estudi analitza els beneficis i riscos de l’aplicació de la IA per part dels ens públics, recull experiències internacionals i identifica els 12 sistemes d’IA, actualment implementats o en procés de desenvolupament, que estan sent utilitzats per les Administracions Públiques catalanes. En el cas de Catalunya, el radar identifica dotze sistemes en quatre administracions diferents, set ja estan implementats i la resta, en fase pilot. La major part d’aquests (7) estan dirigits a ajudar el personal tècnic de l’Administració a través de l’automatització de tasques i l’estudi apunta que promouen un estalvi de temps i recursos, un augment de la qualitat dels processos i de la capacitat de resposta de l’administració. És el cas de la transcripció d’informes d’emergència social, en fase pilot, que permet la transcripció automàtica d’informes dictats in situ; el motor de regles de prestacions socials, en ús, que a través de cinc algoritmes verifica si un ciutadà compleix els criteris per rebre una ajuda social; l’identificador de necessitats en intervenció social, en proves, que detecta situacions de necessitat a través de la transcripció de la conversa entre la treballadora social i la ciutadania, o el servei d’automatització dels informes de pobresa energètica, en fase pilot, que automatitza la generació dels informes socials de vulnerabilitat energètica i la comunicació del resultat a les empreses d’energia, evitant talls i garantint els subministraments bàsics a persones en situació de vulnerabilitat.

Beneficis i riscos de la IA en l’àmbit social

De l’estudi es desprèn que encara ens trobem en una fase molt recent de l’ús d’aquesta tecnologia en l’àmbit dels drets socials i que bona part dels algoritmes són de ‘consum intern’, és a dir, qui interactua amb aquests és el personal de l’administració i no la ciutadania, i estan centrats a produir millores en l’eficiència dels processos administratius. “L’ús de sistemes d’IA comporta tota una sèrie de riscos relacionats amb la seguretat i privacitat de la informació, la manca de transparència o la possible amplificació de biaixos i discriminacions. L’obligació de construir sistemes segurs i amb garanties en l’accés als serveis socials, i que no vulnerin drets socials de la ciutadania, limita el ventall de tècniques d’IA que poden aplicar-se. A més, exigeix avançar amb prudència perquè les persones a qui va dirigida aquesta protecció es troben en situació de vulnerabilitat o risc d’exclusió social. Tot i això, l’informe ens mostra com l’aplicació de la IA en el sector públic i, en particular, en l’àmbit social, té la capacitat de simplificar processos i millorar la qualitat i velocitat en la provisió de serveis públics, facilitant i agilitzant el treball del personal de l’Administració i la relació de la ciutadania amb aquesta”, apunta Xavier Trabado, referent de m4Social a la Junta Directiva de la Taula.

Només la meitat de les llars amb menys ingressos tenen contacte amb l’Administració a través d’Internet. En aquest context en què 18.000 persones estan en llista d’espera per accedir a un servei o recurs social a Catalunya o l’Ingrés Mínim Vital només arriba a un 14,5% de la població catalana que es troba per sota del llindar de la pobresa, els col·lectius en situació de vulnerabilitat són els que menys es relacionen amb l’Administració, fins i tot en el cas de tràmits de prestacions i ajudes socials. “Les prestacions socials només són efectives si arriben a aquelles persones per les quals han estat pensades i en el menor temps possible. Creiem que aquesta tecnologia pot contribuir a reduir la burocràcia, eliminar barreres i garantir una atenció més ràpida, eficient i personalitzada en l’àmbit dels drets socials. Confiem, però, què això no s’aturi aquí perquè el nombre de sistemes identificats és reduït, molt menor que en altres àmbits com el de la salut. Necessitem una aposta ferma i continuada perquè, si no és així, difícilment podrem avançar en la consolidació i millora de l’atenció a la ciutadania que tothom desitja”, conclou Francina Alsina, presidenta de la Taula.

L’estudi està disponible en tres idiomes:

• Consulta la versió en català aquí.
• Consulta la versió en castellà aquí.
• Consulta la versió en anglès aquí.