Contacte
M. Àngels Barbarà
Informe Intel·ligència artificial: decisions automatitzades a Catalunya - enllaç al document
La Sala Cotxeres del Palau Robert de Barcelona (Passeig de Gràcia, 107) ha estat la seu de la presentació de l’informe “Intel·ligència artificial. Decisions Automatitzades a Catalunya”, un ambiciós treball de recerca i divulgació impulsat per l’Autoritat Catalana de Protecció de Dades que neix amb la voluntat d’analitzar l’estat de la intel·ligència artificial a Catalunya des de la perspectiva de la protecció de dades de les persones. Es tracta d’un treball pioner sobre la situació de la intel·ligència artificial, a Catalunya, analitzada des de l’òptica ètica i de les dades personals. Més concretament, l’estudi es centra en els algorismes de decisió automatitzada.
Aquest informe té una vocació eminentment divulgativa i fa un esforç per informar i conscienciar la ciutadania per tal que faci un ús responsable de les seves dades personals en el marc d’una societat en què els ordinadors prenen cada dia de forma autònoma milers de decisions que ens afecten. I ho fa a partir de l’explicació didàctica dels algorismes de decisió automatitzada, les seves implicacions pràctiques i els riscos en termes de protecció de dades que el context digital ens planteja.
L’acte de presentació de l’informe aplega experts en TIC i protecció de dades
La presentació de l’informe “Intel·ligència artificial. Decisions Automatitzades a Catalunya” ha comptat amb la presència destacada i les intervencions de la directora de l’Autoritat, M. Àngels Barbarà; la periodista Karma Peiró; i el coordinador de Tecnologia i Seguretat de la Informació de l’APDCAT, Jordi Soria. L’acte de presentació ha finalitzat amb un debat obert en què han intervingut experts en l’àmbit de les TIC i la protecció de dades, així com experts que han col·laborat en el treball de recerca.
M. Àngels Barbarà, directora de l’Autoritat Catalana de Protecció de Dades, ha posat en valor en la seva intervenció els potencials beneficis per a la societat de la IA, recordant que, en un context on l’evolució tecnològica es basa en l’ús massiu i intensiu de dades, cal trobar les eines adequades per protegir els drets i llibertats de les persones. En aquest sentit, Barbarà ha exposat l’ampli debat existent, a nivell global (Unió Europea, Canadà, EEUU...), sobre si els actuals models reguladors són suficients per protegir els drets i llibertats en el conjunt d’àrees on s’utilitzen la IA i els algorismes de decisió automatitzada.
En el marc del dret a la protecció de dades, la directora s’ha referit al Comitè Europeu de protecció de dades, que assenyala que l’RGPD cobreix la creació i ús de la majoria d’algorismes i que el marc legal existent permet fer front a molts dels potencials riscos i reptes associats al tractament de dades personals mitjançant algorismes. I que, per tant, cal centrar-se en el desenvolupament de les normes existents, especialment els requeriments de transparència, responsabilitat proactiva i avaluacions d’impacte sobre protecció de dades, en el context dels algorismes de decisió automatitzada.
La directora de l’APDCAT ha afirmat també que la virtualitat dels algorismes per extreure patrons i perfils de les dades personals pot posar en risc no només el drets d’una persona concreta, sinó, a més, els drets de determinats col·lectius o grups. I en aquests casos hem de fer front, també, a la generació de perfils que creen situacions de discriminació, sobre persones i grups basades en paràmetres, identificats pels algorismes, que són invisibles per a nosaltres i, per tant, difícils de detectar.
Assenyala Barbarà que davant la nova realitat de la societat tecnològica es requereixen nous plantejaments i hem d’estar disposats a avançar en els reptes que la IA planteja al nostre model de protecció de dades, essent proactius per a una millor protecció de les persones en un moment en què aquestes veuen modificada la seva forma de vida sense ser-ne plenament conscients. Ha remarcat, així mateix, que més que mai, hem de ser positius i atrevir-nos a pensar més enllà per construir el model de societat que volem, ja que quan la tecnologia s’integra en la vida de les persones i modula la societat, hem d’estar disposats i en disposició de fer una valoració i una crítica constructiva centrada en l’ésser humà.
Barbarà ha acabat la seva intervenció afirmant que quan la tecnologia avança utilitzant les nostres dades, ha d’avançar, també, garantint els nostres drets i llibertats.
Sobre l’informe
Aquesta necessitat de conscienciació i pedagogia es concreta en un informe molt detallat que combina la part analítica amb una vessant pràctica basada en exemples reals. En aquest sentit, el document consta de dos blocs clarament diferenciats.
El primer bloc es materialitza en un estudi de recerca sobre l’ús dels algorismes de decisió automatitzada a Catalunya, fet per la periodista Karma Peiró, especialitzada en tecnologies de la informació i la comunicació. L’objectiu d’aquest primer bloc és informar la ciutadania, en to divulgatiu, sobre els avantatges i els riscos que comporten les decisions automatitzades. Per ajudar el lector a entendre bé aquestes implicacions, Peiró complementa la seva anàlisi d’una cinquantena d’exemples pràctics i reals d’aplicació d’algorismes de decisió automatitzada, abordant àmbits tan diversos i quotidians per a la ciutadania com la salut, l’educació, el treball, la banca, el comerç...
Amb la inclusió de tots aquests exemples, Peiró posa de manifest els grans beneficis que les tecnologies estan aportant a la nostra societat en qüestions tan importants com la diagnosi de malalties, la concessió d’ajuts socials, la gestió de centres hospitalaris o la millora de l’aprenentatge escolar, però també assenyala els perills de discriminació i de vulneració de les dades personals que poden dur associats aquests algorismes.
Aquest bloc culmina amb les reflexions ètiques d’una trentena d’experts catalans –màxims referents de la investigació acadèmica en intel·ligència artificial– i d’emprenedors i professionals relacionats amb la intel·ligència artificial (IA).
El segon bloc enfoca les decisions automatitzades des de la perspectiva de protecció de dades. Les dades constitueixen un dels fonaments sobre els quals s’ha construït la IA. L’abundància de dades ha permès crear sistemes d’IA capaços de portar a terme multitud de tasques sense programar-los explícitament. És l’anomenat aprenentatge automàtic, que analitza les dades disponibles i aprèn de l’experiència acumulada. Les dades també són essencials a l’hora d’aplicar aquests sistemes, ja que cada nova aplicació ve determinada per les dades que defineixen el nou cas concret.
Quan les dades són personals, cal tenir en compte l’RGPD, que fixa límits al tractament, obligacions als responsables i drets a les persones. En aquest cas, hi ha friccions clares entre la necessitat de dades dels algorismes i l’RGPD. Un dels temes principals del segon bloc de l’informe presentat avui és, precisament, l’anàlisi d’aquestes friccions.
El segon bloc culmina amb una sèrie de recomanacions que busquen – en la mesura del possible – fer la IA i les decisions automatitzades compatibles amb la protecció de dades. Això es fa tant des del punt de vista de les persones, que busquen protegir els seus drets, com des del punt de vista de les organitzacions que apliquen aquests algorismes i necessiten accedir a les dades.