Para dar respuesta a la expansión masiva de la IA generativa y a los retos que plantea, m4Social, proyecto de innovación digital en ámbito social de la Taula d’entitats del Tercer Sector Social de Catalunya, con el apoyo del Ayuntamiento de Barcelona, ha organizado la jornada ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
La IA ofrece oportunidades para la innovación y la mejora de los servicios públicos y la atención social, pero también conlleva riesgos significativos que hace falta gestionar con diligencia. La jornada, que ha tenido lugar en el HUB Social de Barcelona, ha permitido explorar ejemplos concretos y debatir sobre cómo se están abordando y regulando los retos éticos a raíz de este fenómeno.
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
«La IA no es una opción, es una responsabilidad para quienes trabajamos con y para las personas. Tenemos que conocerla, utilizarla y poner límites para que su uso no esté reñido con la ética», ha apuntado Enric Morist Güell, presidente de la Taula del Tercer Sector Social. Por su lado, Xavier Trabado Farré, vicepresidente de la institución, ha ampliado que «desde la Taula, seguiremos incidiendo políticamente para defender los derechos digitales y que, más allá de la IA, el uso de la tecnología se haga sin vulnerar derechos y de una forma ética». En una comparativa entre riesgos y beneficios de la IA, Trabado ha hecho balance del primer año después de la publicación ‘Radar de algoritmos y procesos de decisión automatizada para el acceso a los derechos sociales de la ciudadanía en Cataluña’, informe de m4Social con KSNET que fue presentado en el Mobile World Congress 2024 delante de administraciones y entidades.
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
La IA, herramienta de apoyo para una mejor gestión y atención a las personas
Desde la Dirección Ejecutiva de Gestión de Recursos y Provisión de Servicios y Calidad del Área de Derechos Sociales, Salud, Cooperación y Comunidad del Ayuntamiento de Barcelona, Jordi Serratosa Carbonell y Martí Clapés González, han expuesto las necesidades para abordar un nuevo sistema de soporte informativo para la ayuda al Fondo de Infancia 0-16.
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
«La Dirección de Planificación Estratégica recogió estas necesidades y se desarrolló un chatbot que pudiera dar respuesta a las consultas de la ciudadanía en las diferentes fases, desde la presentación de solicitudes, enmiendas y alegaciones y adjudicación». Actualmente, el chatbot ha realizado más de 11.000 conversaciones satisfactoriamente. «El uso de sistemas conversacionales permite una aproximación más accesible gracias a su multicanalidad, y también superar barreras muy importantes como la idiomática».
En la mesa de debate sobre la aplicación ética de IA en la garantía de los derechos sociales, moderada por Marta Campo Santaló, responsable de fortalecimiento del sector de la Taula del Tercer Sector Social, quien también ha conducido la jornada, Julián Andújar Pérez, director gerente de la Fundación Tecnologías Sociales de Cruz Roja, ha señalado que los elementos que tienen en cuenta para cualquier proyecto que llevan a cabo son: tecnología, innovación y retos sociales. Entre algunos ejemplos, ha destacado cámaras instaladas a drones para la búsqueda de personas o el uso de asistentes de voz. Ha advertido, pero, que «hay que evitar que esta nueva tecnología cree una segunda brecha digital».
Sergi Garcia Díaz, director técnico de la Fundació Ajuda i Esperança, de Salut Mental Catalunya, ha planteado la importancia de la tecnología como herramienta de prevención y ha explicado el éxito de la IA en su servicio de chat de apoyo emocional a los jóvenes con perfiles especialmente vulnerables, en colaboración con la Universidad Pompeu Fabra (UPF) y Meta, para identificar patrones de conducta y prevenir riesgos (suicidio, depresión, TCA). «Hacemos una reflexión constante sobre cuáles son nuestros objetivos con relación al uso de la IA en nuestros servicios y cuáles son las limitaciones éticas que nos planteamos».
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
Eduard Puig Vaquero, del equipo de Datos y Estrategia Digital del Hospital Sant Joan de Déu, miembro del comité de ética en investigación clínica y delegado de protección de datos de muchos centros SJD en Cataluña, ha hecho énfasis en la necesidad de un uso coherente de la IA «porque ha venido para quedarse». El Hospital Sant Joan de Déu tiene mucha actividad en el ámbito sanitario con implicaciones de la IA, con un goteo constante de proyectos de algoritmos de IA en estos últimos dos años. Además, a raíz de la Comisión ENCERTA, se procura que la IA sea una herramienta de uso responsable, legal y ética.
Finalmente, Pilar Rodríguez Benito, adjunta a la gerencia y directora de la unidad operativa sociosanitaria del Grupo ABD, de la Federació Catalana de Drogodependències, ha recordado que «la IA es una herramienta tecnológica, pero los límites los tenemos que poner nosotros, las personas». «Hemos aprendido a aprender y a innovar con cogobernanza y a ver cómo la IA nos puede ayudar en diferentes procesos para mejorar el bienestar de las personas, de los ciudadanos y ciudadanas».
El cierre institucional de la jornada ha sido a cargo de Natàlia Valenzuela Pulido, vicepresidenta de la Taula del Tercer Sector Social, y Sonia Fuertes Ledesma, comisionada de Derechos Dociales del Ayuntamiento de Barcelona. Valenzuela ha instado que «tenemos que promover un frente común y debates como el de hoy nos permiten ver qué funciona y qué mejorar». «Bienvenida IA si es para una mejor atención a las personas».
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
A continuación, Fuertes ha cerrado el acto recordando que «la IA es una herramienta y que está al servicio de las personas y de los derechos sociales». «Pongamos la mirada en las posibilidades sin obviar los riesgos: hay que seguir explorando y somos nosotros quienes conducimos este cambio y este proceso».
Jornada m4Social ‘IA y Derechos Sociales: Implicaciones Éticas y Responsabilidad Social’.
La alta participación en esta jornada muestra el interés e incluso la responsabilidad que tiene la Taula del Tercer Sector Social para promover estos debates y prácticas dentro del sector y también en relación con la administración. Desde m4Social, el año que viene seguiremos trabajando alrededor de conceptos clave como la ética y la gobernanza, el respeto a los derechos humanos… y, por tanto, a los derechos sociales.
