Contacto
La Autoridad Catalana de Protección de Datos (APDCAT) ha hecho un llamamiento este martes, en el marco de la celebración del evento Four Years From Now (4YFN), en el Mobile World Congress (MWC), para promover una mirada ética en el desarrollo de aplicaciones de inteligencia artificial (IA), para evitar así que esta tecnología cada vez más presente comporte consecuencias perjudiciales para las personas.
En este sentido, la APDCAT ha organizado la sesión 'Inteligencia artificial. Una mirada ética', en el MWC para analizar los retos de la implantación de tecnologías de IA, y poner de relieve algunos de los peligros que esta tecnología puede representar: la discriminación, los usos inadecuados del reconocimiento facial, y las prácticas poco éticas en el comercio electrónico, entre otros.
La directora de la APDCAT, Meritxell Borràs, ha sido la encargada de abrir la sesión, que ha contado con la participación de Ricardo Baeza, Director de Investigación en el Instituto de IA Experiencial de Northeastern University, Silicon Valley, y miembro del DATA Lab del Khoury College of Computer Sciences, así como otras persones expertas en la materia.
La jornada ha servido para abordar el estado de esta tecnología, conocer las normativas correspondientes, las diferencias culturales, los sesgos cognitivos, y también para debatir qué puede hacer la sociedad para afrontar estos retos en un futuro cercano.
Durante su intervención, Borràs ha hablado de las oportunidades y también de los riesgos que conllevan los sistemas y aplicaciones de inteligencia artificial, que en la última década se han popularizado en la sociedad. Para Borràs, "no podemos apreciar su impacto ni los riesgos que esconde, porque la IA transforma el mundo de una forma sin precedentes". El objetivo, entre otras cosas, es evitar los sesgos que pueden surgir con el diseño de los algoritmos, que pueden influenciarnos o discriminarnos, el uso indiscriminado de videovigilancia masiva con reconocimiento facial y el control del comportamiento social.
La directora de la APDCAT ha añadido que desde el punto de vista técnico, es necesario mejorar la tecnología disponible en cuanto a la transparencia y la fiabilidad, y también ha apuntado la necesidad de disponer de mecanismos legales que garanticen a los ciudadanos la protección de los suyos derechos.
Sin embargo, lo más urgente es “mantener una visión crítica de la IA”, que cuestione el funcionamiento de los sistemas para encontrar aquellos elementos que tengan un impacto negativo en las personas que no son evidentes desde el punto de vista técnico. "Es necesario, pues, incorporar la ética a la IA, y en el proceso debemos ser exigentes, más allá de proponer códigos éticos", ha concluido Borràs.
Los desafíos éticos de la inteligencia artificial
Por su parte, Ricardo Baeza-Yates ha centrado su intervención en los desafíos éticos de la inteligencia artificial. Concretamente, ha hablado de cinco: la discriminación, la frenología, el comercio digital injusto, los modelos que no entienden la semántica y el uso indiscriminado de recursos computacionales. Baeza-Yates ha enfatizado los sesgos de los datos, los del algoritmo mismo que a veces amplifica el de los datos, y los sesgos de la interacción entre el sistema y sus usuarios, que son una combinación de sesgos algorítmicos y sesgos cognitivos .
Asimismo, ha hablado de los desafíos a abordar en este ámbito, como los principios a cumplir por el software, diferencias culturales, normativa y sesgos cognitivos individuales.
Baeza-Yates ha asegurado que además de las preguntas éticas que una empresa debe hacerse antes de lanzar un producto o servicio, hay que hacer otras preguntas relacionadas: si tienen la debida competencia política y técnica, si han realizado un análisis técnico minucioso y si han ponderado los posibles impactos individuales y sociales.
Sobre lo que puede hacer la sociedad para afrontar estos retos, Baeza-Yates ha insistido en la IA responsable, que "implica un proceso que involucra desde el principio a todos los actores del diseño, implementación y uso de un software". Son, ha dicho, "los que conformarán un equipo multidisciplinar, desde los expertos en el problema que hay que resolver hasta los informáticos".
La Autoridad Catalana de Protección de Datos ha organizado la sesión 'Inteligencia artificial. Una mirada ética' en el Four Years From Now, en el marco del Mobile World Congress, para debatir sobre los retos en la implementación de tecnologías de IA para evitar la discriminación o la manipulación de las personas.