Lafede.cat va presentar el 5 de juliol l’informe “Algoritmes i Intel·ligència Artificial al Sector Públic: Recomanacions des de la Justícia Global“, una guia sobre com les administracions i els i les professionals que hi treballen poden ajudar-se de la tecnologia en la recerca del bé comú.
Presentació de l’informe “Algoritmes i Intel·ligència Artificial al Sector Públic: Recomanacions des de la Justícia Global” a Lafede.cat, amb el seu autor, Pablo Jiménez Aranda | LAFEDE.CAT
Fa tres anys que Lafede.cat posa el focus en l’aplicació de la intel·ligència artificial en les polítiques públiques i en les possibles vulneracions de drets humans que pot suposar aquesta implementació. Després de fer seguiment del Reglament europeu AI Act a Brusel·les, s’ha treballat en la implementació de la IA en les administracions catalanes, i fruit d’aquesta investigació s’ha elaborat l’informe “Algoritmes i Intel·ligència Artificial al sector públic. Recomanacions des de la Justícia global”, que es va presentar el 5 de juliol amb una taula rodona. Aquest és el doucment que guiarà l’estratègia d’incidència en matèria de IA durant els propers mesos en tots aquells espais en què Lafede.cat es reuneixi amb administracions públiques.
L’informe, elaborat pel periodista especialitzat en l’impacte social i polític de la tecnologia Pablo Jiménez Arandia, ofereix una anàlisi profunda de l’impacte de la IA a les administracions públiques i proposa recomanacions concretes per incorporar aquestes tecnologies des d’una perspectiva coherent amb la justícia global. Per això, destaca la necessitat d’anar més enllà de la transparència i els biaixos, aspectes importants però sovint enfocats des d’una visió tècnica.
Al document es recomana apropar-se a la tecnologia des d’una visió d’interdependència, per tal d’evitar les vulneracions de drets i utilitzar la IA pel bé comú. Això implica plantejar-ne una governança democràtica, la implicació de les comunitats afectades, l’avaluació del seu impacte des d’una perspectiva social o la necessitat d’apostar per la sobirania tecnològica.
Reptes i limitacions de la implementació de la IA
La presentació de l’informe va anar acompanyada d’un debat amb la participació de tres persones expertes del sector públic: Josep Maria Flores Juanpere, responsable d’Innovació a la Direcció General d’Administració Digital, Ascensión Moro Cordero, responsable del Departament de Govern Obert i Coordinadora de l’Àrea de Presidència a l’Ajuntament de Sant Feliu de Llobregat i Sara Suárez-Gonzalo, professora i investigadora del grup Communication Networks and Social Change de l’Internet Interdisciplinary Institute (Universitat Oberta de Catalunya).
Els ponents van compartir les seves perspectives sobre les oportunitats, reptes i també limitacions de la implementació de la IA a les administracions públiques.”Depenem cada cop més de les grans empreses tecnològiques, que tenen molt de poder a escala transaccional, i això compromet la capacitat d’acció i de regulació de les administracions públiques. La regulació ha de ser molt més valenta per limitar el seu model de negoci”, va apuntar Sara Suárez-Gonzalo.
Josep Maria Flores va destacar que des de l’administració pública catalana s’estan treballant temes clau de la governança i ha reconegut que fins ara hi ha aspectes de la digitalització que l’administració ha entomat de manera poc crítica. Per això ha subratllat que “cal introduir perspectives diferents com les proposades en aquest informe”.
Ascensión Moro va recordar la importància d’avaluar l’impacte de la IA: “És important que es faci avaluació de l’impacte sobre la vulneració de drets davant la incorporació d’aquestes tecnologies a l’administració. Està obligada a fer-ho i cal supervisió humana. La responsabilitat és de l’administració, no del sistema”.
L’acte va concloure amb les paraules d’Ismael Peña-López, Director de l’Escola d’Administració Pública de Catalunya, qui va subratllar la importància de prendre mesures concretes per a la implementació ètica i efectiva de la IA a les administracions públiques. Va assenyalar que cal canviar el paradigma de la suposada neutralitat de la tecnologia i apostar per la participació efectiva i la redistribució del poder en l’àmbit de les decisions d’implementació tecnològica.
Més informació
- Informe per a consulta i descàrrega “Algoritmes i Intel·ligència Artificial al Sector Públic: Recomanacions des de la Justícia Global“.