La intel·ligència artificial i l’anàlisi de dades estan transformant la manera com es dissenyen, s’avaluen i es despleguen les polítiques públiques. Però aquestes eines no són neutres: poden ajudar a prendre millors decisions i distribuir millor els recursos, i també poden reproduir desigualtats si no s’apliquen amb criteris d’equitat, transparència i responsabilitat.

En parlem amb Caterina Calsamiglia, ICREA Research Professor i group leader de Ciències Socials Computacionals al Barcelona Supercomputing Center, el centre nacional de supercomputació que posa la computació d’alt rendiment al servei de la recerca científica i la innovació. Des del BSC, el seu grup treballa en la intersecció entre ciències socials, dades, intel·ligència artificial i polítiques públiques, amb especial atenció a qüestions com l’equitat, l’educació, el disseny de mecanismes d’assignació i l’impacte social dels algoritmes.

Caterina Calsamiglia al Consell Assessor de m4Social, especial 10 anys.

Amb ella reflexionem sobre com les dades i la IA poden contribuir a millorar les polítiques socials, quins riscos cal tenir presents i quin paper pot jugar el tercer sector social per garantir que la transformació digital estigui realment al servei de les persones.

Des del Barcelona Supercomputing Center treballeu les ciències socials computacionals. Com explicaries aquest camp a una entitat social que no té perfil tècnic?

Les ciències socials computacionals aprofiten les noves dades i capacitats de computació per entendre millor la societat i prendre millors decisions públiques, des del disseny de polítiques i serveis fins a la regulació. Podem, per exemple, analitzar xarxes socials per entendre com es formen les opinions i la polarització i dissenyar intervencions que fomentin el diàleg i la participació democràtica; analitzar milers de textos legals per entendre el mapa de polítiques, prestacions i marcs normatius, identificar-ne l’impacte, detectar buits o solapaments i facilitar-ne l’accés; o analitzar repositoris sencers de literatura científica per saber a què dediquem la recerca, a quines necessitats respon i quines estem deixant menys ateses.

La capacitat computacional també amplia el que podem fer des de la política pública: podem integrar informació avui dispersa sobre educació, ocupació o prestacions i posar-la al servei de les persones i de les entitats que les acompanyen, cosa que permet una orientació molt més informada i personalitzada. I aquestes mateixes tecnologies estan transformant la societat: la IA canvia com ens informem, decidim i interactuem amb les administracions. Les ciències socials computacionals també han d’ajudar-nos a entendre aquests canvis, regular-los millor i repensar què volen dir conceptes com transparència, equitat o dades obertes en un món cada vegada més mediat per la IA.

La intel·ligència artificial i l’anàlisi de dades ja formen part de moltes polítiques públiques. Quin potencial tenen per millorar la presa de decisions en àmbits com l’educació, els serveis socials o la lluita contra les desigualtats?

Un dels grans potencials de la IA és que pot canviar radicalment l’agilitat amb què incorporem i utilitzem la informació necessària per oferir un servei realment personalitzat. Pensem en un treballador social: a través de la relació amb una persona obté molta informació rellevant sobre les seves necessitats i el seu context. La IA pot facilitar que aquesta informació s’incorpori de manera àgil i rigorosa i ajudar el professional a identificar, entre una enorme quantitat de prestacions, serveis i recursos, quin suport pot ser més adequat en cada moment.

Alhora, pot ajudar-nos a integrar informació que avui està fragmentada entre els àmbits educatiu, laboral i social, de manera que els diferents professionals i institucions que acompanyen una mateixa persona puguin treballar amb una visió més completa i alineada de les seves necessitats.

I aquí hi ha un repte fonamental: integrar informació no ha de voler dir acumular indiscriminadament totes les dades d’una persona. La tecnologia ens hauria de permetre construir sistemes en què, per a cada finalitat, només es processi la informació estrictament necessària, incorporant des del disseny principis com la minimització de dades i la protecció de la privacitat. El repte és aconseguir més personalització i coordinació sense renunciar a les garanties de protecció de dades.

Quan una administració utilitza dades o algoritmes per prendre decisions, on apareixen els principals riscos d’inequitat o discriminació?

Un algoritme serà tan bo com la pregunta que plantegem que ha de respondre, la informació que utilitzem i la manera com interpretem i utilitzem el resultat.

Pensem que volem reforçar els serveis d’atenció a les dones que pateixen violència masclista allà on són més necessaris. Si ens basem en el nombre de denúncies, podem equivocar-nos: poques denúncies no vol dir necessàriament poca violència; pot significar més dificultats per denunciar o menys accés als serveis. I, paradoxalment, una intervenció que funcioni i faciliti demanar ajuda pot fer augmentar les denúncies. Necessitem, doncs, combinar fonts, com ara dades sanitàries, de serveis socials o enquestes de victimització, i entendre què mesura cadascuna i com s’ha generat.

Per això és clau cocrear les eines amb els professionals que coneixen el context i mantenir aquesta expertesa durant el seu ús. La combinació del coneixement professional amb la capacitat de la IA pot ajudar-nos no només a evitar nous biaixos, sinó també a reduir biaixos humans, prendre decisions més consistents i oferir un millor servei.

El tercer sector social treballa amb persones en situació de vulnerabilitat, però sovint té menys recursos tècnics que altres sectors. Quines capacitats bàsiques haurien de desenvolupar les entitats per fer un ús útil i crític de les dades?

Aquí la Taula del Tercer Sector pot tenir un paper extraordinàriament important: aglutinar necessitats compartides i ajudar a articular solucions comunes. Ja tenim un bon exemple en la gestió de les dades, amb la iniciativa impulsada per SinergiaTIC, que permet desenvolupar eines pensades específicament per a les necessitats del sector i compartir-ne els costos i les capacitats.

Amb la IA podem pensar de manera similar. Les entitats aporten una cosa insubstituïble: el coneixement de les persones, dels problemes i del context. Si som capaços d’aglutinar aquest coneixement i connectar-lo amb capacitats tecnològiques compartides, podem desenvolupar solucions molt més potents i accessibles.

I moltes d’aquestes necessitats tenen una clara dimensió de bé públic: si podem demostrar que aquestes eines milloren l’atenció, amplien l’accés o permeten utilitzar millor els recursos, hi ha un argument fort perquè el seu desenvolupament i desplegament rebi finançament públic, en lloc de recaure sobre cada entitat.

Des de m4Social defensem que les dades obertes poden ajudar les entitats socials a planificar millor, avaluar impacte i fer incidència. Quines condicions han de complir les dades públiques perquè siguin realment útils per al tercer sector social?

Crec que no ens hem d’obsessionar tant perquè totes les dades siguin obertes com perquè la informació necessària sigui accessible per a usos que generin valor social. En l’àmbit dels drets socials, de fet, moltes de les dades més valuoses són dades sensibles i no poden ser obertes.

Per això crec que és especialment útil avançar a partir de casos d’ús concrets. El tercer sector social pot identificar i prioritzar quines preguntes voldria poder respondre; i, a partir d’aquí, veure quina informació necessitem, què existeix, què falta, què cal integrar i sota quines condicions es pot accedir i utilitzar amb les garanties necessàries.

A mesura que anem demostrant que determinats usos generen valor, podem anar consolidant bases de dades, mecanismes d’accés i usos validats que després siguin escalables.

L’objectiu final és aconseguir que la informació pugui ser utilitzada, amb les garanties adequades, per millorar les decisions i els serveis.

Mirant cap als pròxims anys, què hauria de passar perquè la IA i les dades no fossin només una eina d’eficiència administrativa, sinó també una eina de justícia social?

Crec que el gran potencial és utilitzar aquestes tecnologies per reduir les barreres que fan que les oportunitats, els serveis i els drets no arribin igual a tothom, però també per entendre millor si les polítiques que tenim estan responent a les necessitats socials.

Podem utilitzar la IA per fer molt més accessible el mapa de drets, deures i ajuts, entendre a qui van dirigits i qui els acaba rebent, detectar buits, solapaments o necessitats que no estem cobrint i analitzar per què determinats ajuts poden acabar tenint efectes regressius. I, alhora, abordar un problema enorme com és el non-take-up: persones que tenen dret a una prestació, però no hi accedeixen perquè la informació està dispersa i els procediments són massa complexos.

La IA pot ajudar-nos, per tant, tant a dissenyar millor els drets i les polítiques com a reduir la distància entre tenir un dret i poder exercir-lo. Aquí és on pot convertir-se realment en una eina de justícia social.

Quina pregunta creus que ens hauríem de fer sempre abans d’incorporar IA o dades en una política pública?

Quin problema volem resoldre i com sabrem si realment l’hem resolt?

Hem de començar pel problema, no per la tecnologia: entendre què volem millorar, per a qui i amb quin objectiu; després veure si les dades i la IA ens poden ajudar a fer-ho millor; i finalment avaluar si efectivament ho han fet.

Per fer-ho necessitem experts en IA, però sobretot necessitem professionals del tercer sector social capaços de fer de pont entre les necessitats socials i les possibilitats que ofereix la tecnologia. Per això seria molt important que les formacions vinculades al tercer sector incorporessin cada vegada més competències en dades i tecnologia. No perquè aquests professionals hagin de convertir-se en enginyers, sinó perquè tinguin les eines per formular els problemes, dialogar amb els equips tècnics i participar en el disseny de les solucions.

Imatge capçalera: Barcelona Supercomputing Center