La UIB lidera un proyecto europeo para reducir los sesgos en la inteligencia artificial
El programa CHARLIE, financiado con fondos europeos, busca analizar los sesgos en los algoritmos y concienciar sobre la necesidad de una IA más ética
14/02/2025 El coordinador del proyecto Charlie y profesor de la UIB, Rubén Comas. ESPAÑA EUROPA ISLAS BALEARES SOCIEDAD / EUROPA PRESS
Palma
La Universitat de les Illes Balears (UIB) coordina un proyecto internacional para reducir los sesgos en la inteligencia artificial (IA). El objetivo del programa es concienciar sobre los impactos negativos de la falta de un enfoque crítico y ético en la educación tecnológica.
Se trata del proyecto CHARLIE, financiado con fondos europeos y desarrollado en cinco países: España, Portugal, Rumanía, Finlandia y Dinamarca. El coordinador del programa, el profesor de la UIB Rubén Comas, trabaja en el análisis del funcionamiento de los modelos algorítmicos y el aprendizaje automático, con el fin de detectar y minimizar sesgos en la toma de decisiones de la IA.
El objetivo es analizar los sesgos en los datos y en los algoritmos para evitar desigualdades sociales en las respuestas generadas por la inteligencia artificial. Un ejemplo de ello se encuentra en el ámbito de la medicina, donde los modelos de IA ofrecen diagnósticos basados mayoritariamente en datos de pacientes hombres, excluyendo características específicas de las mujeres, lo que puede afectar la precisión de los tratamientos.
Así lo explica Antoni Jaume, doctor del Laboratorio de Aplicaciones de la Inteligencia Artificial de la UIB, quien advierte sobre la importancia de desarrollar modelos más representativos y equitativos.
El proyecto CHARLIE, que comenzó en 2023 y está previsto que finalice a mediados de 2025, incluye el desarrollo de cursos universitarios, formación para docentes y la creación de un juego educativo destinado a jóvenes de entre 12 y 18 años para fomentar el pensamiento crítico sobre el uso de la IA.
Precisamente, el profesor Rubén Comas recomienda el uso de herramientas de inteligencia artificial como apoyo al aprendizaje universitario, destacando su potencial cuando se aplican con un enfoque crítico y ético.
