Contacto
M. Àngels Barbarà
Informe Inteligencia artificial: decisiones automatizadas en Cataluña - enlace al documento
La Sala Cotxeres del Palau Robert de Barcelona (Paseo de Gracia, 107) ha sido la sede de la presentación del informe "Inteligencia artificial. Decisiones Automatizadas en Cataluña", un ambicioso trabajo de investigación y divulgación impulsado por la Autoridad Catalana de Protección de Datos que nace con la voluntad de analizar el estado de la inteligencia artificial en Cataluña desde la perspectiva de la protección de datos de las personas. Se trata de un trabajo pionero sobre la situación de la inteligencia artificial, en Cataluña, analizada desde la óptica ética y de los datos personales. Más concretamente, el estudio se centra en los algoritmos de decisión automatizada.
Este informe tiene una vocación eminentemente divulgativa y hace un esfuerzo para informar y concienciar a la ciudadanía para que haga un uso responsable de sus datos personales en el marco de una sociedad en la que los ordenadores toman cada día de forma autónoma miles de decisiones que nos afectan. Y lo hace a partir de la explicación didáctica de los algoritmos de decisión automatizada, sus implicaciones prácticas y los riesgos en términos de protección de datos que el contexto digital nos plantea.
El acto de presentación del informe reúne expertos en TIC y protección de datos
La presentación del informe "Inteligencia artificial. Decisiones Automatizadas en Cataluña" ha contado con la presencia destacada y las intervenciones de la Directora de la Autoridad, M. Àngels Barbarà; la periodista Karma Peiró; y el Coordinador de Tecnología y Seguridad de la Información de la APDCAT, Jordi Soria. El acto de presentación ha finalizado con un debate abierto en el que han intervenido expertos en el ámbito de las TIC y la protección de datos, así como expertos que han colaborado en el trabajo de investigación.
M. Àngels Barbarà, Directora de la Autoridad Catalana de Protección de Datos, ha puesto en valor en su intervención los beneficios potenciales para la sociedad de la IA, recordando que, en un contexto donde la evolución tecnológica se basa en el uso masivo e intensivo de datos, hay que encontrar las herramientas adecuadas para proteger los derechos y libertades de las personas. En este sentido, Barbarà ha expuesto el amplio debate existente, a nivel global (Unión Europea, Canadá, EEUU ...), sobre si los actuales modelos reguladores son suficientes para proteger los derechos y libertades en el conjunto de áreas donde se utilizan la IA y los algoritmos de decisión automatizada.
En el marco del derecho a la protección de datos, la Directora se ha referido al Comité Europeo de Protección de Datos, que señala que el RGPD cubre la creación y uso de la mayoría de algoritmos y que el marco legal existente permite hacer frente a muchos de los potenciales riesgos y retos asociados al tratamiento de datos personales mediante algoritmos. Y que, por tanto, hay que centrarse en el desarrollo de las normas existentes, especialmente los requerimientos de transparencia, responsabilidad proactiva y evaluaciones de impacto sobre protección de datos, en el contexto de los algoritmos de decisión automatizada.
La Directora de la APDCAT ha afirmado también que la virtualidad de los algoritmos para extraer patrones y perfiles de los datos personales puede poner en riesgo no sólo el derechos de una persona concreta, sino, además, los derechos de determinados colectivos o grupos. Y en estos casos tenemos que hacer frente, también, a la generación de perfiles que crean situaciones de discriminación, sobre personas y grupos basadas en parámetros, identificados por los algoritmos, que son invisibles para nosotros y, por tanto, difíciles de detectar.
Señala Barbarà que ante la nueva realidad de la sociedad tecnológica se requieren nuevos planteamientos y debemos estar dispuestos a avanzar en los retos que la IA plantea a nuestro modelo de protección de datos, siendo proactivos para una mejor protección de las personas en un momento en que éstas ven modificada su forma de vida sin ser plenamente conscientes. Remarcó, asimismo, que más que nunca, debemos ser positivos y atrevernos a pensar más allá para construir el modelo de sociedad que queremos, ya que cuando la tecnología se integra en la vida de las personas y modula la sociedad , debemos estar dispuestos y en disposición de hacer una valoración y una crítica constructiva centrada en el ser humano.
Barbarà ha terminado su intervención afirmando que cuando la tecnología avanza utilizando nuestros datos, debe avanzar, también, garantizando nuestros derechos y libertades.
Sobre el informe
Esta necesidad de concienciación y pedagogía se concreta en un informe muy detallado que combina la parte analítica con una vertiente práctica basada en ejemplos reales. En este sentido, el documento consta de dos bloques claramente diferenciados.
El primer bloque se materializa en un estudio de investigación sobre el uso de los algoritmos de decisión automatizada en Cataluña, realizado por la periodista Karma Peiró, especializada en tecnologías de la información y la comunicación. El objetivo de este primer bloque es informar a la ciudadanía, en tono divulgativo, sobre las ventajas y los riesgos que conllevan las decisiones automatizadas. Para ayudar al lector a entender bien estas implicaciones, Peiró complementa su análisis de una cincuentena de ejemplos prácticos y reales de aplicación de algoritmos de decisión automatizada, abordando ámbitos tan diversos y cotidianos para la ciudadanía como la salud, la educación, el trabajo, la banca, el comercio ...
Con la inclusión de todos estos ejemplos, Peiró pone de manifiesto los grandes beneficios que las tecnologías están aportando a nuestra sociedad en cuestiones tan importantes como el diagnóstico de enfermedades, la concesión de ayudas sociales, la gestión de centros hospitalarios o la mejora de el aprendizaje escolar, pero también señala los peligros de discriminación y de vulneración de los datos personales que pueden llevar asociados estos algoritmos.
Este bloque culmina con las reflexiones éticas de una treintena de expertos catalanes -máximos referentes de la investigación académica en inteligencia artificial- y de emprendedores y profesionales relacionados con la inteligencia artificial (IA).
El segundo bloque enfoca las decisiones automatizadas desde la perspectiva de protección de datos. Los datos constituyen uno de los fundamentos sobre los que se ha construido la IA. La abundancia de datos ha permitido crear sistemas de IA capaces de llevar a cabo multitud de tareas sin programarlos explícitamente. Es el llamado aprendizaje automático, que analiza los datos disponibles y aprende de la experiencia acumulada. Los datos también son esenciales a la hora de aplicar estos sistemas, ya que cada nueva aplicación viene determinada por los datos que definen el nuevo caso concreto.
Cuando los datos son personales, hay que tener en cuenta el RGPD, que fija límites al tratamiento, obligaciones a los responsables y derechos a las personas. En este caso, hay fricciones claras entre la necesidad de datos de los algoritmos y el RGPD. Uno de los temas principales del segundo bloque del informe presentado hoy es, precisamente, el análisis de estas fricciones.
El segundo bloque culmina con una serie de recomendaciones que buscan - en la medida de lo posible - hacer la IA y las decisiones automatizadas compatibles con la protección de datos. Esto se hace tanto desde el punto de vista de las personas, que buscan proteger sus derechos, como desde el punto de vista de las organizaciones que aplican estos algoritmos y necesitan acceder a los datos.