EXPLORING ARTIFICIAL INTELLIGENCE AND FAIRNESS: UNCOVERING AND ADDRESSING BIASES IN ALGORITHMIC DECISION-MAKING

In recent years Artificial Intelligence systems and in particular Machine learning algorithm have acquired predominance within individuals’ lives, given their involvement in decision-making processes that could have an impact on individuals. As a consequence of this, a lot of research has been conducted to assess whether these decisions can be considered fair and explore the concept of fairness itself. In this thesis, an overview of the concept of bias and fairness is presented, examining their origin and the different types that can exist. The aim is to try and understand how these variables can affect the predictions made by algorithms and models. This involves considering European legislation concerning AI, data protection, and fundamental rights such as the AI ACT proposal, GDPR, and The Charter of Fundamental Rights. Furthermore, the thesis conducts a deeper analysis of the ways in which a machine learning algorithm can be freed from its biases. This is done though a presentation of the methods that the existing literature have explored so far regarding the possible ways to mitigate these biases.

Negli ultimi anni i sistemi di Intelligenza Artificiale e in particolare gli algoritmi di Machine Learning hanno acquisito predominanza all’interno della vita degli individui, dato il loro coinvolgimento nei processi decisionali che potrebbero avere un impatto sugli individui. Di conseguenza, sono state condotte molte ricerche per valutare se queste decisioni possano essere considerate giuste ed esplorare il concetto stesso di equità. In questa tesi viene presentata una panoramica del concetto di bias e di equità, esaminando la loro origine e le diverse tipologie che possono esistere. L’obiettivo è cercare di capire come queste variabili possono influenzare le previsioni fatte da algoritmi e modelli. Ciò implica considerare la legislazione europea in materia di intelligenza artificiale, protezione dei dati e diritti fondamentali come la proposta AI ACT, il GDPR e la Carta dei diritti fondamentali. Inoltre, la tesi conduce un’analisi più approfondita dei modi in cui un algoritmo di machine learning può essere liberato dai suoi pregiudizi. Ciò viene fatto attraverso una presentazione dei metodi che la letteratura esistente ha esplorato finora riguardo ai possibili modi per mitigare questi bias.