Per donar resposta a l’expansió massiva de la IA generativa i als reptes ètics que planteja, m4Social, projecte d’innovació digital en l’àmbit social de la Taula d’entitats del Tercer Sector Social de Catalunya, amb el suport de l’Ajuntament de Barcelona, ha organitzat la jornada ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
La IA ofereix oportunitats per a la innovació i la millora dels serveis públics i l’atenció social, però també comporta riscos significatius que cal gestionar amb diligència. La jornada, que ha tingut lloc al HUB Social de Barcelona, ha permès explorar exemples concrets i debatre sobre com s’estan abordant i regulant els reptes ètics fruit d’aquest fenomen.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
“La IA no és una opció, és una responsabilitat per a qui treballem amb i per a les persones. L’hem de conèixer, utilitzar i posar límits perquè el seu ús no està renyit amb l’ètica”, ha apuntat Enric Morist Güell, president de la Taula del Tercer Sector Social. Per la seva banda, Xavier Trabado i Farré, vicepresident de la institució, ha ampliat que “des de la Taula, continuarem incidint políticament per defensar els drets digitals i que, més enllà de la IA, l’ús de la tecnologia es faci sense vulnerar drets i d’una manera ètica”. En una comparativa entre riscos i beneficis de la IA, Trabado ha fet balanç del primer any després de la publicació ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya’, informe de m4Social amb KSNET que va ser presentat al Mobile World Congress 2024 davant d’administracions i entitats.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
La IA, eina de suport en una millor gestió i atenció a les persones
Des de la Direcció Executiva de Gestió de Recursos i Provisió de Serveis i Qualitat de l’Àrea de Drets Socials, Salut, Cooperació i Comunitat de l’Ajuntament de Barcelona, Jordi Serratosa Carbonell i Martí Clapés González, han exposat les necessitats per abordar un nou sistema de suport informatiu per l’ajuda Fons d’Infància 0-16.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
“La Direcció de Planificació Estratègica va recollir aquestes necessitats i va desenvolupar un xatbot que pogués donar resposta a les consultes de la ciutadania en les diferents fases, des de la presentació de sol·licituds, esmenes i al·legacions i adjudicació”. Actualment, el xatbot ha realitzat més d’11.000 converses satisfactòriament. “L’ús de sistemes conversacionals permet una aproximació més accessible gràcies a la seva multicanalitat, i també superar barreres molt importants com la idiomàtica”.
A la taula debat sobre l’aplicació ètica d’IA en la garantia dels drets socials, moderada per Marta Campo Santaló, responsable d’enfortiment del sector de la Taula del Tercer Sector Social, qui també ha conduït la jornada, Julián Andújar Pérez, director gerent de la Fundació Tecnologies Socials de Creu Roja, ha assenyalat que els elements que tenen en compte per a qualsevol projecte que duen a terme són: tecnologia, innovació i reptes socials. Entre alguns exemples, ha destacat càmeres instal·lades a drons per a la cerca de persones o l’ús d’assistents de veu. Ha advertit, però, que “cal evitar que aquesta nova tecnologia creï una segona bretxa digital”.
Sergi Garcia Díaz, director tècnic de la Fundació Ajuda i Esperança, de Salut Mental Catalunya, ha plantejat la importància de la tecnologia com a eina de prevenció i ha explicat l’èxit de la IA en el seu servei de xat de suport emocional als joves amb perfils especialment vulnerables, en col·laboració amb la Universitat Pompeu Fabra (UPF) i Meta, per identificar patrons de conducta i prevenir riscos (suïcidi, depressió, TCA). “Fem una reflexió constant sobre quins són els nostres objectius amb relació a l’ús de la IA en els nostres serveis i quines són les limitacions ètiques que ens plantegem”.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’
Eduard Puig Vaquero, de l’equip de Dades i Estratègia Digital de l’Hospital Sant Joan de Déu, membre del comitè d’ètica en recerca clínica i delegat de protecció de dades de molts centres SJD a Catalunya, ha posat èmfasi en la necessitat d’un ús coherent de la IA “perquè ha vingut per quedar-se”. L’Hospital Sant Joan de Déu té molta activitat en l’àmbit sanitari amb implicacions de la IA, amb un degoteig constant de projectes d’algoritmes d’IA en aquests darrers dos anys. A més a més, arrel de la Comissió ENCERTA, es vetlla perquè la IA sigui una eina d’ús responsable, legal i ètica.
Finalment, Pilar Rodríguez Benito, adjunta a la gerència i directora de la unitat operativa sociosanitària del Grup ABD, de la Federació Catalana de Drogodependències, ha recordat que “la IA és una eina tecnològica, però els límits els hem de posar nosaltres, les persones”. “Hem après a aprendre i innovar amb cogovernança i veure com la IA ens pot ajudar en diferents processos per a millorar el benestar de les persones, dels ciutadans i ciutadanes”.
La cloenda institucional de la jornada ha estat a càrrec de Natàlia Valenzuela Pulido, vicepresidenta de la Taula del Tercer Sector Social, i Sonia Fuertes Ledesma, comissionada de Drets Socials de l’Ajuntament de Barcelona. Valenzuela ha instat que “hem de promoure un front comú i debats com el d’avui ens permeten veure què funciona i què cal millorar”. “Benvinguda IA si és per a una millor atenció a les persones”.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
A continuació, Fuertes ha tancat l’acte recordant que “la IA és una eina i que està al servei de les persones i dels drets socials”. “Posem la mirada en les possibilitats sense obviar els riscos: cal continuar explorant i som nosaltres qui conduïm aquest canvi i aquest procés”.
Jornada m4Social ‘IA i Drets Socials: Implicacions Ètiques i Responsabilitat Social’.
L’alta participació en aquesta jornada demostra l’interès i fins i tot la responsabilitat que té la Taula del Tercer Sector Social per promoure aquests debats i pràctiques dins el sector i també en relació amb l’administració. Des de m4Social, l’any que ve continuarem treballant al voltant de conceptes claus com l’ètica i la governança, el respecte als drets humans… i, per tant, als drets socials.
