Contacte
En el marc del Dia Internacional de la Protecció de Dades, l’Autoritat Catalana de Protecció de Dades (APDCAT) ha presentat al Parlament de Catalunya un model pioner a Europa per desenvolupar solucions d'intel·ligència artificial (IA) respectuoses amb els drets fonamentals. Es tracta de la primera metodologia per a l’avaluació d'impacte en els drets fonamentals en matèria d'intel·ligència artificial (AIDF) aplicada a casos concrets a Europa.
En un acte presidit pel president del Parlament de Catalunya, Josep Rull i Andreu, i la directora de l’APDCAT, Meritxell Borràs i Solé, l’Autoritat ha presentat aquest model per desenvolupar solucions d'IA fiables i centrades en l'ésser humà, dissenyat per concretar les noves obligacions establertes pel Reglament d’Intel·ligència Artificial (RIA). Concretament, el RIA obliga a fer una AIDF quan s’utilitzi IA en un projecte i això pugui suposar un risc elevat per a les persones. L’objectiu de l’AIDF és detectar aquests riscos i mitigar-los, per evitar possibles biaixos, discriminació, etc. Actualment no existeixen directrius de les autoritats competents a nivell europeu en aquest àmbit.
Aquest model pioner s’ha elaborat en el marc del grup de treball de la xarxa de delegats i delegades de protecció de dades de Catalunya ‘DPD en xarxa’ liderat pel professor titular de Dret Civil de la Universitat Politècnica de Torí, Alessandro Mantelero. Així, s’ha desenvolupat a partir de la interacció dels delegats i delegades de protecció de dades (DPD) d’entitats públiques i privades que l’integren, analitzant solucions d'intel·ligència artificial (IA) de projectes de diverses entitats.
La diputada secretària primera de la Mesa del Parlament, Glòria Freixa i Vilardell, i la directora de l’APDCAT, Meritxell Borràs i Solé, han estat les encarregades de donar la benvinguda a l’acte. En la seva intervenció, Borràs ha defensat la necessitat d'un bon disseny i ús de la IA per evitar riscos. Així mateix, la directora ha agraït l’esforç dels DPD que han participat en l’elaboració d’aquesta metodologia pionera, liderats pel professor Alessandro Mantelero, i coordinats per la DPD i responsable de projectes estratègics de l’APDCAT, Joana Marí.
Borràs ha recordat que les autoritats de protecció de dades tenen un paper molt rellevant a l’hora de supervisar els sistemes d’intel·ligència artificial, un rol que el RIA ha reforçat. En aquest marc, la directora ha demanat al Parlament i del Govern de Catalunya definir el marc legal català, que haurà de fer compatibles la competitivitat i la defensa dels drets de tothom. "El model que avui presentem contribuirà a què Catalunya sigui pionera en una recerca i investigació centrada en les persones", ha conclòs Borràs.
Per la seva banda, el professor Alessandro Mantelero, ha presentat la nova metodologia aplicada, que recull els primers casos treballats. Es tracta de quatre casos reals en què s’ha avaluat l’impacte en els drets fonamentals en l’ús de sistemes d’IA. Els casos s'emmarquen en àmbits d’actuació on les solucions d'IA s'utilitzen cada vegada més, i tenen més impacte en les persones. Són l'educació (avaluació dels resultats de l'aprenentatge i predicció de l'abandonament escolar), la gestió de personal (sistemes de suport a la presa de decisions en la gestió de recursos humans), l'accés a l'assistència sanitària (tractament del càncer basat en imatges mèdiques) i els serveis de benestar socials (assistent de veu per a persones grans). Més endavant, a mesura que s’analitzin casos reals nous en el marc d’aquest grup de treball, es publicaran nous resultats a ‘DPD en xarxa’.
La metodologia adoptada es desenvolupa en tres fases, tenint en compte el context i la tipologia de persones exposades al risc, el perjudici potencial per als drets fonamentals, i les mesures de prevenció i mitigació necessàries. La primera fase és la de planificació, definició de l'abast i identificació de riscos. Inclou la descripció del sistema d'IA i el seu context d'ús, tenint en compte els riscos intrínsecs (relacionats amb el propi sistema) i els riscos extrínsecs (relacionats amb la interacció entre el sistema i l'entorn en què s'implementa). La segona fase és la d’anàlisi de riscos, que ha d'anar més enllà d'una identificació general de les àrees potencials d'impacte i estimar el nivell d'impacte sobre cada dret o llibertat. I finalment, la tercera fase és la de mitigació i gestió de riscos. Només definint el nivell de risc abans i després de l'adopció de les mesures de prevenció i mitigació és possible demostrar que el risc s'ha abordat de manera específica i eficaç.
L'objectiu del treball és que contribueixi al debat internacional sobre el model d'avaluació de l'impacte en els drets fonamentals, atès que aporta evidències sobre qüestions crucials com ara les variables rellevants que s'han de tenir en compte; la metodologia per avaluar i crear índexs de risc; el paper que poden jugar els qüestionaris estàndard i les seves limitacions; i el paper dels experts en aquest tipus d’avaluació. Així, aquest model pot servir de font d'inspiració per a organitzacions d'Europa i de països no membres de la UE que volen adoptar un enfocament basat en els drets fonamentals de la IA, però no disposen d’un model de referència provat, amb casos concrets amb els quals comparar les seves experiències.
Nous rols i casos pràctics
La presentació s’ha dut a terme el marc de la jornada ‘Intel·ligència artificial i drets fonamentals: una mirada més enllà de la privacitat’, que ha comptat amb la presència de nombroses persones expertes en la matèria.
En aquest sentit, el cap de l’Assessoria jurídica de l’APDCAT, Xavier Urios Aparisi, ha abordat els nous rols i obligacions que estableix el RIA pel que fa a la minimització dels impactes de l’ús de l’IA.
A més, s'han presentat els casos d’ús en què s'ha aplicat la metodologia sobre avaluació d’impacte en drets fonamentals, en una taula moderada per la DPD i responsable de projectes estratègics de l’APDCAT, Joana Marí Cardona. A més d’Alessandro Mantelero, hi han participat Cristina Guzmán Álvarez, DPD de la Universitat Politècnica de Catalunya - BarcelonaTech (UPC); Esther Garcia Encinas, responsable de l’Oficina de Privacitat de CaixaBank; Ruben Ortiz Uroz, DPD de la Universitat de Barcelona; i M. Ascensión Moro Cordero, cap del Departament de Govern Obert i Coordinadora de Presidència de l’Ajuntament de Sant Feliu de Llobregat.
Coincidint amb la commemoració del Dia Internacional de la Protecció de Dades, l’Autoritat Catalana de Protecció de Dades ha organitzat al Parlament de Catalunya la jornada ‘Intel·ligència artificial i drets fonamentals: una mirada més enllà de la privacitat’, amb la participació de persones expertes.