Bias negli algoritmi di Machine Learning - Il caso degli algoritmi per l'assistenza sanitaria negli Stati Uniti

Artificial Intelligence (AI) and machine learning (ML) algorithms are widely used to help decision makers both in the public and private sector. Many works express concerns on the ethical side and on the opacity of the data used by ML algorithms; this work analyzes the measurements methods, the origins of the bias and the remedies of the work by Obermeyer et al. (2019) on a medical assistance algorithm used to calculate risk scores.

L'intelligenza artificiale (AI) e gli algoritmi di machine learning (ML) sono ampiamente utilizzati nel settore pubblico e nel privato per aiutare in decisioni chiave. Molti studi hanno riportato preoccupazioni sul piano etico e sulla poca trasparenza dei dati utilizzati da algoritmi ML; questo elaborato analizza i metodi di misurazione, le cause del bias e le contromisure per evitarlo del lavoro di Obermeyer et al. (2019) su un algoritmo utilizzato a livello sanitario per il calcolo del livello di rischio di pazienti.