Nou material audiovisual sobre els riscos dels algorismes d'intel·ligència artificial que utilitzen dades personals

L’Autoritat Catalana de Protecció de Dades (APDCAT) i l’Escola d’Administració Pública de Catalunya (EAPC) han publicat el quart vídeo de la sèrie “Parlem de dades personals". En aquesta ocasió, aprofundeix en la construcció dels algorismes d'intel·ligència artificial que es nodreixen de dades personals i en els perills que una programació inadequada pot representar per als drets i llibertats individuals. El cap de l'Assessoria Jurídica de l'APDCAT, Xavier Urios, és aquesta vegada l'encarregat de traslladar el missatge a la ciutadania.

El nou vídeo d'aquesta sèrie, dissenyada per apropar conceptes bàsics sobre privacitat amb un objectiu divulgatiu, està disponible al web de l’APDCAT i al canal de Youtube de l’EAPC. Explica com les decisions basades en intel·ligència artificial s’articulen mitjançant algorismes que, en la majoria dels casos, han estat programats amb la utilització prèvia de dades personals. Per aquesta raó, apunta la necessitat de plantejar-se si l’algorisme està correctament construït i si les nostres dades estan protegides.

El vídeo alerta dels riscos que una màquina programada intervingui en una decisió que afecta les persones, per exemple per avaluar-ne el rendiment a la feina, per seleccionar-les o no per a un lloc de treball o a l'hora de rebre una prestació pública. Així, segons com estigui dissenyada, la màquina ens donarà una resposta o una altra, i hi ha riscos que la programació sigui errònia i es discrimini les persones.

També recorda que qualsevol tractament de dades personals necessita una base legal que el permeti i que, quan es du a terme, cal respectar els principis en matèria de protecció de dades (com ara el d'emprar les dades mínimes o conservar-les el mínim temps necessari). En aquest context, assegura que l’ús de la intel·ligència artificial pot fer que les dades personals i la privacitat com a individus es puguin veure afectades.

Vídeos sobre TIC i privacitat

Aquest és el quart vídeo de la sèrie de materials audiovisuals que l’APDCAT i l’EAPC elaboren des del 2022, en el marc d’un projecte conjunt dissenyat per conscienciar i difondre els drets de protecció de dades, amb suports i canals adequats per a tots els públics.

A més d'aquest, hi ha disponibles els vídeos “El valor de les dades personals”, que explica gràficament què es considera una dada personal i per què cal protegir-les; "Els videojocs i l'accés a les nostres dades", que se centra en la relació entre dades personals i els jocs en línia; i La realitat estesa i la protecció de dades personals, que explora les implicacions entre l'ús de tecnlogies de realitat virtual, realitat augmentada i realitat mixta pel que fa a la privacitat de les persones usuàries.

A més dels vídeos, el projecte comprèn una sèrie de pòdcasts, mitjançant els quals es fa una anàlisi més profunda sobre els diferents temes. De moment, n’hi ha disponibles cinc: el dret d’accés garantit per la normativa de protecció de dades, l’encàrrec del tractament de dades, el tractament de dades de menors, les violacions de la seguretat de les dades i el dret d’informació en protecció de dades. Estan disponibles a les principals plataformes de pòdcasts (Spotify, Spotify for podcasters [antic Anchor], Amazon Music, Castbox, Pocket Cast i Ivoox).