En la última década, la IA se ha desarrollado de forma exponencial y cada vez está más integrada en la vida cotidiana de las personas. En este contexto, varias Administraciones Públicas ya cuentan con esta tecnología para ayudarlas en diferentes tareas. Con el objetivo que las entidades del tercer sector social, y la ciudadanía en general, conozcan como se están utilizando estos sistemas en el ámbito social y qué impacto pueden tener en el acceso y garantía de los derechos sociales en Cataluña, desde m4Social hemos impulsado el estudio ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya‘. El informe, elaborado conjuntamente con KSNET, quiere contribuir al debate actual sobre la IA y poner las bases para que esta tecnología facilite una respuesta más ágil y rápida de la Administración a situaciones de vulnerabilidad.

El estudio analiza los beneficios y riesgos de la aplicación de la IA por parte de los entes públicos, recoge experiencias internacionales e identifica los 12 sistemas de IA, actualmente implementados o en proceso de desarrollo, que están siendo utilizados por las Administraciones Públicas catalanas. En el caso de Cataluña, el radar identifica doce sistemas en cuatro administraciones diferentes, siete ya están implementados y el resto, en fase piloto. La mayor parte de estos (7) están dirigidos a ayudar el personal técnico de la Administración a través de la automatización de tareas y el estudio apunta que promueven un ahorro de tiempo y recursos, un aumento de la calidad de los procesos y de la capacidad de respuesta de la administración. Es el caso de la transcripción de informes de emergencia social, en fase piloto, que permite la transcripción automática de informes dictados in situ; el motor de reglas de prestaciones sociales, en uso, que a través de cinco algoritmos verifica si un ciudadano cumple los criterios para recibir una ayuda social; el identificador de necesidades en intervención social, en fase de prueba, que detecta situaciones de necesidad a través de la transcripción de la conversación entre la trabajadora social y la ciudadanía, o el servicio de automatización de los informes de pobreza energética, en fase piloto, que automatiza la generación de los informes sociales de vulnerabilidad energética y la comunicación del resultado a las empresas de energía, evitando cortes y garantizando los suministros básicos a personas en situación de vulnerabilidad.

Beneficios y riesgos del uso de la IA en el ámbito social

Del estudio se desprende que todavía nos encontramos en una fase muy reciente del uso de esta tecnología en el ámbito de los derechos sociales y que buena parte de los algoritmos son de ‘consumo interno’, es decir, quien interactúa con estos es el personal de la administración y no la ciudadanía, y están centrados a producir mejoras en la eficiencia de los procesos administrativos. “El uso de sistemas de IA comporta toda una serie de riesgos relacionados con la seguridad y privacidad de la información, la carencia de transparencia o la posible amplificación de sesgos y discriminaciones. La obligación de construir sistemas seguros y con garantías en el acceso a los servicios sociales, y que no vulneren derechos sociales de la ciudadanía, limita el abanico de técnicas de IA que pueden aplicarse. Además, exige avanzar con prudencia porque las personas a quienes va dirigida esta protección se encuentran en situación de vulnerabilidad o riesgo de exclusión social. Aun así, el informe nos muestra como la aplicación de la IA en el sector público y, en particular, en el ámbito social, tiene la capacidad de simplificar procesos y mejorar la calidad y velocidad en la provisión de servicios públicos, facilitando y agilizando el trabajo del personal de la Administración y la relación de la ciudadanía con esta”, apunta Xavier Trabado, referente de m4Social en la Junta Directiva de la Taula.

Solo la mitad de los hogares con menos ingresos tienen contacto con la Administración a través de Internet. En este contexto en que 18.000 personas están en lista de espera para acceder a un servicio o recurso social en Cataluña o el Ingreso Mínimo Vital solo llega a un 14,5% de la población catalana que se encuentra por debajo del umbral de la pobreza, los colectivos en situación de vulnerabilidad son los que menos se relacionan con la Administración, incluso en el caso de trámites de prestaciones y ayudas sociales. “Las prestaciones sociales solo son efectivas si llegan a aquellas personas para las que han sido pensadas y en el menor tiempo posible. Creemos que esta tecnología puede contribuir a reducir la burocracia, eliminar barreras y garantizar una atención más rápida, eficiente y personalizada en el ámbito de los derechos sociales. Confiamos que esto no se pare aquí porque el número de sistemas identificados es reducido, muy menor que en otros ámbitos como el de la salud. Necesitamos una apuesta firme y continuada porque, si no es así, difícilmente podremos avanzar en la consolidación y mejora de la atención a la ciudadanía que todo el mundo desea”, concluye Francina Alsina, presidenta de la Taula.

El estudio está disponible en tres idiomas:

• Consulta la versión en catalán aquí.
• Consulta la versión en castellano aquí.
• Consulta la versión en inglés aquí.