
La directora de la Autoridad Catalana de Protección de Datos, Meritxell Borràs, ha presentado en Georgia el modelo catalán para facilitar la elaboración de evaluaciones de impacto sobre los derechos fundamentales en el uso de inteligencia artificial (FRIA), una de las obligaciones que incorpora el Reglamento de Inteligencia Artificial (RIA) cuando existe un determinado producto.
Lo ha presentado en el marco de la celebración de la 33ª Conferencia Europea de Autoridades de Protección de Datos, la llamada Spring Conference, y acompañada del experto del Comité Europeo de Protección de Datos y profesor de Derecho Privado y titular de la Cátedra Jean Monnet de Sociedades Digitales Mediterráneas y Derecho en la Universidad Politécnica de Turín. Mantelero ha liderado el grupo de trabajo en cuyo seno se ha trabajado este modelo pionero en Europa, dentro de la comunidad de delegados y delegadas de protección de datos 'DPD en red' impulsada por la Autoridad.
Se trata del primer modelo que desarrolla una evaluación FRIA aplicada a casos de uso reales. En concreto, en proyectos de ámbitos como recursos humanos, investigación médica, servicios sociales y educación que utilizan la inteligencia artificial y que pueden representar un riesgo alto. Así, la evaluación ha servido para identificar riesgos para mitigarlos, y servicio de punto de partida a la hora de guiar a desarrolladores y promotores de sistemas de inteligencia artificial (SIA) en el diseño de aplicaciones éticas y respetuosas con los derechos fundamentales.
Ante representantes de más de sesenta instituciones europeas vinculadas con la protección de datos, Borràs ha valorado muy positivamente la acogida que ha tenido el modelo FRIA catalán, y ha asegurado que son muchas las entidades que lo están incorporando en sus planes de gobernanza de la IA, como la Generalitat de Catalunya.
La directora ha recordado que un mal diseño y uso de la IA comporta riesgos por los derechos individuales y por el fundamento mismo de la democracia, y ha recordado que la APDCAT ha sido designada como una de las autoridades de protección de los derechos fundamentales en el marco del Reglamento de IA.
Borràs ha puesto en valor que el primer grupo de la comunidad DDP en red se centró en analizar precisamente las evaluaciones de impacto FRIA. Y lo hizo a partir del liderazgo del profesor experto Alessandro Mantelero, gracias a la participación activa de once delegados de protección de datos de distintos ámbitos de la esfera pública y privada.
Fruto de esta colaboración, Borràs ha destacado que se ha desarrollado esta plantilla de modelo FRIA pionera, que puede ser utilizada tanto por los proveedores de IA como por los desplegadores de IA para evaluar el impacto en los derechos fundamentales en el diseño y desarrollo de sus soluciones de IA.
Por su parte, Alessandro Mantelero ha explicado en detalle este modelo catalán. Aseguró que proporciona respuestas concretas a cuestiones que más interesan a las personas en relación a la inteligencia artificial: cómo se protegen los derechos y cuál es el impacto de una solución de IA. Así, sin una adecuada implementación de esta perspectiva centrada en los derechos, la IA sólo será una herramienta tecnológica que no incorporará los valores fundamentales de nuestra sociedad, y, por tanto, será rechazada o nos llevará a escenarios distópicos, ha añadido.
Acuerdo para acceder a la trazabilidad de la historia clínica
Por otra parte, la APDCAT también ha participado activamente en Spring Conference en otro panel, donde el jefe de la Asesoría Jurídica, Xavier Urios, ha compartido los puntos claves del acuerdo en que llegó la Autoridad con la GAIP para resolver las solicitudes de acceso a la trazabilidad de la historia clínica de la ciudad.
33a Spring Conference
La Spring Conference es el encuentro anual que reúne cada primavera a los representados de más de sesenta autoridades de protección de datos de toda Europa. El objetivo es abordar cuestiones de mutuo interés, y compartir inquietudes respecto a las tendencias emergentes y avances innovadores en el ámbito de la privacidad y la protección de datos, tanto en Europa como desde una perspectiva global.
El encuentro quiere servir para fortalecer las relaciones entre las instituciones de toda Europa, fomentar la colaboración entre entidades y profesionales que trabajan en este ámbito y favorecer el intercambio de conocimientos y el debate sobre las mejores prácticas en protección de la privacidad.
La directora de la Autoridad Catalana de Protección de Datos, Meritxell Borràs, y el experto Alessandro Mantelero han presentado el modelo catalán para la evaluación de los derechos fundamentales en el uso del IA en Georgia, en la 33ª Conferencia Europea de Autoridades de Protección de Datos, ante los representantes de instituciones que velan por la privacidad en Europa.