L’APDCAT alerta dels riscos per a la privacitat que poden suposar els sistemes d’intel·ligència artificial de reconeixement facial

29/06/2021 13:42
Imatge del workshop sobre reconeixement facial al MWC21

L’Autoritat Catalana de Protecció de Dades (APDCAT) ha organitzat aquest dimecres un debat per posar de relleu els riscos dels sistemes de reconeixement facial per als drets i llibertats fonamentals de les persones, en particular la protecció de dades personals, però també en la llibertat d’expressió, llibertat de reunió o la llibertat de moviments.

Amb el nom ‘Intel·ligència artificial aplicada al reconeixement facial. Principals riscos per a la privacitat’, la sessió s’ha celebrat a l’esdeveniment Four Years From Now (4YFN), organitzat en el marc del Mobile World Congress. Hi han assistit una vuitantena de persones, seguint les normes de seguretat i higiene vinculades a la COVID-19.

El debat ha comptat amb la participació de persones expertes en la matèria, com ara M. Àngels Barbarà, directora de l’APDCAT; Simona Levi, cofundadora de Xnet; Carles Fernández, director tècnic d’Herta Security, i Josep Domingo-Ferrer, director de la Càtedra UNESCO de Protecció de Dades de la URV. Jordi Soria, coordinació de Tecnologia i Seguretat de la Informació de l’APDCAT ha estat l’encarregat de moderar l’acte.

Durant la presentació de la jornada, la directora M. Àngels Barbarà, ha esmentat diverses aplicacions del reconeixement facial i l’important debat, a nivell mundial, que s’ha generat. Ha recordat que des del punt de vista social, la tecnologia de reconeixement facial s'enfronta a una forta oposició, particularment al món occidental, i ha defensat que “aquestes pors tenen fonaments sòlids”. En aquest sentit, ha posat com a exemple l'ús del reconeixement facial en el sistema de crèdit social xinès, que avalua el comportament quotidià de les persones, per premiar-les o castigar-les.

Barbarà ha reconegut que el reconeixement facial, “com moltes altres tecnologies, té aplicacions beneficioses i nocives” i que cada aplicació té la seva pròpia relació entre riscos i beneficis. Ha afegit que “probablement el reconeixement facial en la vigilància massiva és l'aplicació més controvertida”.

La directora ha fet un repàs de l’ús d’aquesta tecnologia en la vigilància massiva a diversos països occidentals. En concret a Europa, s’ha referit a la Proposta de Reglament per a la regulació de la IA, respecte a la qual les autoritats europees de protecció de dades acaben d’emetre una opinió conjunta, recordant que l’ús massiu de tecnologies de reconeixement biomètric en espais públics no només afecta als drets i llibertats dels individus, sinó que també pot crear un sever i irreversible efecte de pèrdua d’anonimat en espais públics sobre el conjunt de la població, incidint de forma negativa i directa en l’exercici d’importants drets i llibertats en una societat democràtica.

Barbarà ha lamentat que “la fiabilitat continua sent un problema pel que fa als sistemes actuals, i és 10 vegades menys fiable quan es tracta de dones, joves, negres i altres grups ètnics”.

Debat a dues bandes

El temps per al debat ha arribat de la mà de Simona Levi i Carles Fernández, que han parlat de les característiques d’aquesta tecnologia i la regulació sobre aquest aspecte en el marc europeu.

Levi ha recordat que el Reglament General de Protecció de Dades ens ofereix un principi que ha de guiar qualsevol política pública o privada: el principi de minimització, fonamental perquè la nostra privacitat no es vegi violada. En aquest sentit, ha apuntat que “és difícil trobar supòsits en els quals el reconeixement facial sigui compatible amb aquest principi”

Per la seva banda, Carles Fernández ha centrat la seva intervenció en com el reconeixement facial ha avançat enormement en els darrers anys, potenciat pels avenços de les tecnologies de Deep Learning. Fernández ha assegurat que aquestes millores tècniques han avançat molt més ràpidament que la legislació corresponent, i en aquest sentit entra en joc la recent proposta de Reglament de la Comissió Europea sobre Intel·ligència Artificial.

L'objectiu de la proposta no és prohibir una tecnologia perquè pugui ser utilitzada en contra del dret a la privacitat dels ciutadans, sinó més aviat definir els criteris que en permetran l'ús responsable: usos permesos (emergències, amenaces socials, persones desaparegudes, etc), requeriments de procediment (proporcionalitat entre privacitat i protecció d'altres drets, autorització judicial, etc), i qualitat de les solucions (eliminació de biaixos, alta precisió, ciberseguretat, supervisió humana, etc).

Per al Carles Fernández, aquesta proposta vol ser la més exigent del món, i “amb ella es vol garantir que el reconeixement facial en espais públics a Europa sigui una oportunitat per protegir drets, i que les solucions europees puguin arribar a ser tècnicament les millors del món”.

Reflexions finals

Per la seva banda, Josep Domingo-Ferrer ha donat punt i final a la sessió, aportant reflexions al voltant dels riscos per la privacitat de la tecnologia de reconeixement facial. En aquest sentit, ha subratllat que la identificació biomètrica en temps real en espais públics (incloent-hi el reconeixement facial) apareix com una pràctica d'intel·ligència artificial a prohibir en la proposta de reglament de la UE sobre intel·ligència artificial (Artificial Intelligence Act, Article 5, paràgraf 2), feta pública el 21 d'abril de 2021.

De fet, ha recordat que “en aquesta proposta, només es permet l'ús d'aquestes tecnologies per part de la policia si són estrictament necessàries per cercar víctimes potencials de crims, per desactivar una amenaça imminent i específica de terrorisme, o per perseguir criminals condemnats”, i que “fins i tot si la identificació biomètrica no és en temps real, la proposta de reglament la considera d'alt risc, i apunta que el seu ús hauria d'estar molt controlat”.

Per això, ha conclòs que “no tot allò que es pot fer tècnicament és acceptable èticament en les nostres societats".

L’Autoritat Catalana de Protecció de Dades ha organitzat el debat ‘Intel·ligència artificial aplicada al reconeixement facial. Principals riscos per a la privacitat’, a l’esdeveniment Four Years From Now (4YFN), en el marc del Mobile World Congress