Biaix algorítmic a la IA: conceptes clau, implicacions i solucions
Authors/Creators
-
1.
Universitat de Barcelona
Description
Aquest recurs educatiu obert (REA) forma part del projecte europeu GEDIS – Gender Diversity in Information Science: Challenges in Higher Education, cofinançat per la Unió Europea. El material, titulat Biaix algorítmic en la IA: conceptes clau, implicacions i solucions, és una traducció al català del recurs original Algorithmic Bias in AI: Key Concepts, Implications, and Solutions (Karmil, Boskovic i Kartašová, 2025). La traducció ha estat realitzada per Claudia San-José i Juan-José Boté-Vericad.
El recurs introdueix els conceptes fonamentals relacionats amb el biaix algorítmic en la intel·ligència artificial (IA), les seves causes i les repercussions socials i ètiques associades. Explica com els sistemes d’IA, en analitzar dades històriques i actuar d’acord amb patrons estadístics, poden reproduir o amplificar desigualtats preexistents de gènere, raça o classe. A través d’exemples reals en àmbits com la salut, el dret o els recursos humans, el material mostra com els algorismes poden produir resultats discriminatoris o injustos si no s’apliquen amb una supervisió adequada.
El recurs posa èmfasi en la necessitat de supervisió humana i transparència en totes les etapes del disseny i l’ús de la IA. S’hi descriuen diverses vies de mitigació, com ara:
-
la diversificació i representativitat de les dades d’entrenament;
-
l’establiment d’auditories periòdiques d’exactitud i imparcialitat;
-
la definició de directrius ètiques i reguladores;
-
i la incorporació d’eines de IA per detectar possibles biaixos.
Aquest OER també promou una lectura crítica i reflexiva de la tecnologia: recorda que la IA no raona com els humans, sinó que prediu estadísticament en funció de les dades disponibles. D’aquesta manera, fomenta la capacitat de l’estudiantat i del personal docent per identificar biaixos i desenvolupar una consciència informada sobre l’impacte de la IA en la societat.
Citació: Karmil, Kenza, Luka Boskovic and Denisa Kartašová. 2025. Algorithmic Bias in AI: Ke Concepts, Implications, and Solutions. DOI: 10.5281/zenodo.17067091. Biaix algorítmic en la IA: conceptes clau, implicacions i solucions. Traduït por Claudia San-José i Juan-José Boté-Vericad. DOI:10.5281/zenodo.17306646
Files
BIAIX-Algo-CAT.pdf
Files
(144.6 kB)
| Name | Size | Download all |
|---|---|---|
|
md5:c8b7e2a74beec50bded614024e8b4851
|
144.6 kB | Preview Download |
Additional details
Related works
- Is derived from
- Lesson: 10.5281/zenodo.17067091 (DOI)
References
- andara, R. J., K. Biswas, S. Akter, S. Shafique, and M. Rahman. "Addressing Algorithmic Bias in AI-Driven HRM Systems: Implications for Strategic HRM Effectiveness." Human Resource Management Journal, May 2025. https://doi.org/10.1111/1748-8583.12609
- Jonker, Alexandra, and Julie Rogers. "What Is Algorithmic Bias?" IBM Think, September 20, 2024. https://www.ibm.com/think/topics/algorithmic-bias
- Kalantzis, Mary, and Bill Cope. "Literacy in the Time of Artificial Intelligence." Reading Research Quarterly 60, no. 1 (November 23, 2024). https://doi.org/10.1002/rrq.591
- Norori, Natalia, Qiyang Hu, Florence Marcelle Aellen, Francesca Dalia Faraci, and Athina Tzovara. "Addressing Bias in Big Data and AI for Health Care: A Call for Open Science." Patterns 2, no. 10 (2021): 100347. https://doi.org/10.1016/j.patter.2021.100347
- Sheikh, Haroon, Corien Prins, and Erik Schrijvers. "Artificial Intelligence: Definition and Background." Research for Policy, January 2023, 15–41. https://doi.org/10.1007/978-3-031-21448-6_2.