La APDCAT alerta de los riesgos para la privacidad que pueden suponer los sistemas de inteligencia artificial de reconocimiento facial

29/06/2021 13:42
Imagen del workshop de reconocimiento facial en el #MWC21

La Autoridad Catalana de Protección de Datos (APDCAT) ha organizado este miércoles un debate para poner de relieve los riesgos de los sistemas de reconocimiento facial para los derechos y libertades fundamentales de las personas, en particular la protección de datos personales, pero también en la libertad de expresión, libertad de reunión o la libertad de movimientos.


Con el nombre 'Inteligencia artificial aplicada al reconocimiento facial. Principales riesgos para la privacidad', la sesión se ha celebrado en el evento Four Years From Now (4YFN), organizado en el marco del Mobile World Congress. Han asistido unas ochenta personas, siguiendo las normas de seguridad e higiene vinculadas a la COVID-19, y también se ha podido seguir en línia.

El debate ha contado con la participación de personas expertas en la materia, tales como M. Àngels Barbarà, directora de la APDCAT; Simona Levi, cofundadora de Xnet; Carlos Fernández, director técnico de Herta Security, y Josep Domingo-Ferrer, director de la Cátedra UNESCO de Protección de Datos de la URV. Jordi Soria, coordinador de Tecnología y Seguridad de la Información de la APDCAT ha sido el encargado de moderar el acto.


Durante la presentación de la jornada, la directora M. Àngels Barbarà, mencionó varias aplicaciones del reconocimiento facial y el importante debate, a nivel mundial, que se ha generado. Recordó que desde el punto de vista social, la tecnología de reconocimiento facial se enfrenta a una fuerte oposición, particularmente en el mundo occidental, y ha defendido que "estos miedos tienen fundamentos sólidos". En este sentido, ha puesto como ejemplo el uso del reconocimiento facial en el sistema de crédito social chino, que evalúa el comportamiento cotidiano de las personas, para premiar o castigarlas foto.


Barbarà ha reconocido que el reconocimiento facial, "como muchas otras tecnologías, tiene aplicaciones beneficiosas y dañinas" y que cada aplicación tiene su propia relación entre riesgos y beneficios. Añadió que "probablemente el reconocimiento facial en la vigilancia masiva es la aplicación más controvertida".

La directora ha repasado el uso de esta tecnología en la vigilancia masiva en varios países occidentales. En concreto en Europa, se ha referido a la propuesta de Reglamento para la regulación de la IA, respecto a la cual las autoridades europeas de protección de datos acaban de emitir una opinión conjunta, recordando que el uso masivo de tecnologías de reconocimiento biométrico en espacios públicos no sólo afecta a los derechos y libertades de los individuos, sino que también puede crear un severo e irreversible efecto de pérdida de anonimato en espacios públicos sobre el conjunto de la población, incidiendo de forma negativa y directa en el ejercicio de importantes derechos y libertades en una sociedad democrática.Barbarà ha lamentado que "la fiabilidad sigue siendo un problema en cuanto a los sistemas actuales, y es 10 veces menos fiable cuando se trata de mujeres, jóvenes, negros y otros grupos étnicos".

Debate a dos bandas


El tiempo para el debate ha llegado de la mano de Simona Levi y Carlos Fernández, que han hablado de las características de esta tecnología y la regulación sobre este aspecto en el marco europeo.

Levi ha recordado que el Reglamento General de Protección de Datos nos ofrece un principio que debe guiar cualquier política pública o privada: el principio de minimización, fundamental para que nuestra privacidad no se vea violada. En este sentido, ha apuntado que "es difícil encontrar supuestos en los que el reconocimiento facial sea compatible con este principio"

Por su parte, Carlos Fernández ha centrado su intervención en cómo el reconocimiento facial ha avanzado enormemente en los últimos años, potenciado por los avances de las tecnologías de Deep Learning. Fernández ha asegurado que estas mejoras técnicas han avanzado mucho más rápidamente que la legislación correspondiente, y en este sentido entra en juego la reciente propuesta de Reglamento de la Comisión Europea sobre Inteligencia Artificial.

El objetivo de la propuesta no es prohibir una tecnología que pueda ser utilizada en contra del derecho a la privacidad de los ciudadanos, sino más bien definir los criterios que permitirán el uso responsable: usos permitidos (emergencias, amenazas sociales, personas desaparecidas, etc), requerimientos de procedimiento (proporcionalidad entre privacidad y protección de otros derechos, autorización judicial, etc), y calidad de las soluciones (eliminación de sesgos, alta precisión, ciberseguridad, supervisión humana, etc).

Para el Carlos Fernández, esta propuesta quiere ser la más exigente del mundo, y "con ella se quiere garantizar que el reconocimiento facial en espacios públicos en Europa sea una oportunidad para proteger derechos, y que las soluciones europeas puedan llegar a ser técnicamente las mejores del mundo".

Reflexiones finales

Por su parte, Josep Domingo-Ferrer ha dado punto y final a la sesión, aportando reflexiones en torno a los riesgos para la privacidad de la tecnología de reconocimiento facial. En este sentido, subrayó que la identificación biométrica en tiempo real en espacios públicos (incluyendo el reconocimiento facial) aparece como una práctica de inteligencia artificial a prohibir en la propuesta de reglamento de la UE sobre inteligencia artificial ( artificial Intelligence Act, Artículo 5, párrafo 2), hecha pública el 21 de abril de 2021.

De hecho, ha recordado que "en esta propuesta, sólo se permite el uso de estas tecnologías por parte de la policía si son estrictamente necesarias para buscar víctimas potenciales de crímenes, para desactivar una amenaza inminente y específica de terrorismo, o para perseguir criminales condenados", y que "incluso si la identificación biométrica no es en tiempo real, la propuesta de reglamento la considera de alto riesgo, y apunta que su uso debería estar muy controlado".


Por ello, concluyó que "no todo lo que se puede hacer técnicamente es aceptable éticamente en nuestras sociedades".

La Autoridad Catalana de Protección de Datos ha organizado el debate 'Inteligencia artificial aplicada al reconocimiento facial. Principales riesgos para la privacidad', en el evento Four Years From Now (4YFN), en el marco del Mobile World Congress