El grup europeu d’incidència d’IA, del qual formen part diverses organitzacions de la societat civil com Lafede.cat, publica aquest comunicat per demanar que la AI Act garanteixi els drets fonamentals. Es tracta del primer marc jurídic sobre IA a la Unió Europea i a tot el món, que entra en vigor oficialment avui 1 d’agost.
L’1 d’agost de 2024, entra en vigor l’esperada Reglament d’Intel·ligència Artificial (AI Act). Després d’anys de negociacions, l’AI Act és ara una llei oficial de la Unió Europea.
Es tracta d’un pas administratiu important, que indica tant als governs com a les empreses que han de preparar-se per a complir aquestes noves normes. Si no ho fan, podrien enfrontar-se a penalitzacions significatives a l’hora de desenvolupar, vendre i utilitzar sistemes d’IA de risc a la UE.
Encara que des de la societat civil organitzada, tant Lafede.cat com els nostres socis de coalició del grup europeu d’incidència d’IA hem manifestat la nostra decepció sobre la manca d’un enfocament més basat en els drets humans, cal destacar que el text final conté, no obstant això, algunes vies per al canvi positiu.
Així, s’inclouen mesures com l’augment dels requisits tècnics per als desenvolupadors de sistemes d’intel·ligència artificial, certes normes de transparència per a les entitats públiques que utilitzen aquests sistemes i requisits d’accessibilitat per als sistemes de risc. Altres novetats inclouen mesures de reparació per a les persones afectades, i línies vermelles contra un subconjunt d’usos més nocius i que violen els drets fonamentals, encara que les proteccions no arriben tant lluny com havíem esperat.
Malgrat el reglament no hagi complert plenament la seva promesa de posar a les persones i els seus drets en el centre, nosaltres seguirem treballant intensament com a coalició per a fer que l’aplicació d’aquestes normes sigui el més significativa possible.
Continuarem impulsant un paper actiu de la societat civil i reclamant la participació significativa de totes les persones que estiguin subjectes a l’ús de sistemes d’IA, especialment comunitats minoritzades.
A mesura que ens endinsem en la pròxima fase del nostre treball sobre intel·ligència artificial, instem als responsables polítics a garantir:
- L’aplicació ferma i respectuosa amb els drets de la AI act, en l’àmbit de la Unió europea i dels estats. Demanem una interpretació forta, eficaç i basada en la Carta de Drets Humans per a l’aplicació de les tecnologies prohibides i de risc que regula la AI Act; unes autoritats supervisores sòlides i independents; unes directrius i codis que respectin els drets humans relatius a la interpretació i l’aplicació de la llei; i unes avaluacions d’impacte significatives dels drets fonamentals (AIA);
- Mesures proactives per omplir els buits que deixa el reglament d’IA. Aquestes són especialment urgents per a una millor protecció de les persones en procés migratori; abordar els impactes ambientals de la IA; eliminar les exempcions generals per a l’ús de la IA amb finalitats de seguretat nacional; assegurar-se que tots els sistemes (no sols els d’alt risc) són accessibles per a les persones amb discapacitat; i aturar l’exportació de tecnologies d’IA que violen els drets de la UE;
- Prohibicions o limitacions estatals addicionals d’intel·ligència artificial inacceptablement nociva, en els casos en què el reglament ho permeti. En particular, demanem que es prohibeixi l’ús de sistemes d’identificació biomètrica remota (RBI), com el reconeixement facial a l’espai públic;
- L’aturada immediata dels usos no conformes de la IA. Les primeres normes que entraran en funcionament seran la llista de prohibicions de la llei, que passarà a ser vinculant a partir de l’1 de febrer de 2025. Després d’això, s’aplicaran altres normes, i seguirem de prop aquesta qüestió per a impugnar usos que queden fora dels límits de la Llei;
- Processos genuïnament transparents i inclusius. Els estàndards, per exemple, que són una part important de la implementació de l’AI Act, es desenvolupen d’una manera que sovint és opaca i que privilegia les entitats privades, amb el risc que això pugui soscavar les normes de la llei. Així doncs, a més d’establir estàndards, el desenvolupament de codis de pràctica i els grups consultius que supervisen la implementació del reglamentd’IA han de ser transparents i inclusius per a la societat civil.
Les demandes que va fer Lafede.cat durant el període final de negociacions es poden recuperar en aquesta notícia.
* Formen part del grup europeu d’incidència d’IA: EDRi, Acces Now, Amnesty Tech, Algorights, Algorithm Watch, Bits of Freedom, European Center for Not-for-Profit Law (ECNL), European Disability Forum (EDF), Article 19, Lafede.cat.