L’APDCAT fa una crida a aplicar l’ètica en el desenvolupament d’aplicacions d’intel·ligència artificial en el marc del Mobile World Congress

L’Autoritat Catalana de Protecció de Dades (APDCAT) ha fet una crida aquest dimarts, en el marc de la celebració de l’esdeveniment Four Years From Now (4YFN), al Mobile World Congress (MWC), per promoure una mirada ètica en el desenvolupament d’aplicacions d’intel·ligència artificial (IA), i evitar que aquesta tecnologia, cada cop més present, comporti conseqüències perjudicials per a les persones. 

En aquest sentit, l’APDCAT ha organitzat la sessió ‘Intel·ligència artificial. Una mirada ètica’, al MWC en què s’han analitzat els reptes de la implantació de tecnologies d’IA, i s’han posat de relleu alguns dels perills que aquesta tecnologia pot representar: la discriminació, els usos inadequats del reconeixement facial, i les pràctiques poc ètiques en el comerç electrònic, entre d’altres.

La directora de l’APDCAT, Meritxell Borràs i Solé, ha estat l’encarregada d’obrir la sessió, que ha comptat amb la participació de Ricardo Baeza, director de Recerca a l’Institut d’IA Experiencial de Northeastern University, Silicon Valley, i membre del DATA Lab del Khoury College of Computer Sciences, així com d’altres persones expertes en la matèria.

La jornada ha servit per abordar l'estat d’aquesta tecnologia, conèixer les normatives corresponents, les diferències culturals i els biaixos cognitius, i també per debatre què pot fer la societat per afrontar aquests reptes en un futur proper.

Durant la seva intervenció, Borràs ha parlat de les oportunitats i també dels riscos que comporten els sistemes i aplicacions d’intel·ligència artificial, que en l’última dècada s’han popularitzat a la societat. Per a Borràs, “no podem apreciar el seu impacte ni els riscos que amaga, perquè la IA transforma el món d'una manera sense precedents”. L’objectiu, entre altres coses, és evitar els biaixos que poden sorgir amb el disseny dels algoritmes, que poden influenciar-nos o discriminar-nos, l’ús indiscriminat de videovigilància massiva amb reconeixement facial i el control del comportament social.

La directora de l’APDCAT ha afegit que des del punt de vista tècnic, cal millorar la tecnologia disponible pel que fa a la transparència i la fiabilitat. També ha apuntat la necessitat de disposar de mecanismes legals que garanteixin als ciutadans la protecció dels seus drets.

El més urgent, però, és “mantenir una visió crítica de la IA”, que qüestioni el funcionament dels sistemes per trobar aquells elements que tinguin un impacte negatiu en les persones que no són evidents des del punt de vista tècnic. “Cal, doncs, incorporar l’ètica a la IA, i en el procés hem de ser exigents, més enllà de proposar codis ètics”, ha conclòs Borràs.

Els desafiaments ètics de la intel·ligència artificial

D'altra banda, Ricardo Baeza-Yates ha centrat la intervenció en els desafiaments ètics de la intel·ligència artificial. Concretament, n'ha esmentat cinc: la discriminació, la frenologia, el comerç digital injust, els models que no entenen la semàntica i l'ús indiscriminat de recursos computacionals. Baeza-Yates ha destacat tres tipus de biaixos: els de les dades, els del mateix algorisme, que de vegades amplifica el de les dades, i els de la interacció entre el sistema i els seus usuaris, que són una combinació de biaixos algorísmics i cognitius.

Així mateix, ha parlat dels desafiaments a abordar en aquest àmbit, com els principis que ha de complir el programari, les diferències culturals, la normativa i els biaixos cognitius individuals.

Baeza-Yates ha assegurat que a més de les preguntes ètiques que una empresa s'ha de fer abans de llançar un producte o servei, cal fer altres preguntes relacionades: si tenen la deguda competència política i tècnica, si han fet una anàlisi tècnica minuciosa i si han ponderat els possibles impactes individuals i socials.

Sobre el que pot fer la societat per afrontar aquests reptes, Baeza-Yates ha insistit en la IA responsable, que “implica un procés que involucra des del començament tots els actors del disseny, implementació i ús d'un programari”. Són, ha dit, “els que conformaran un equip multidisciplinari, des dels experts en el problema que cal resoldre fins als informàtics”.