Explainable AI per le CNN

Nel corso degli ultimi anni,le Convolutional Neural Networks (CNN) sono diventate lo stan- dard di riferimento per i sistemi di visione artificiale in ambito industriale e di automazione. Tuttavia, l’elevata complessità matematica che permette a questi modelli di raggiungere pre- stazioni eccellenti ne compromette l’interpretabilità. Questa natura ”Black Box” rappresenta una criticità nei sistemi in cui l’affidabilità e la validazione delle decisioni sono requisiti fonda- mentali. Il presente lavoro di tesi si pone l’obiettivo di affrontare il trade-off tra accuratezza e spiegabilità esplorando il campo dell’Explainable AI (XAI). In particolare, lo studio si concentra sul confronto di due algoritmi impiegati nell’XAI, ovvero CAM (Class Activation MApping) e GradCAM (Gradient-weighted Class Activation Mapping). I due algoritmi citati permettono entrambe di generare mappe di calore che evidenziano le regioni spaziali determinanti per la classificazione di immagini, ma con una differenza sostanziale, ovvero che GradCAM utilizza i gradienti che fluiscono nell’ultimo strato convoluzionale. Gli algoritmi sono stati applicati al dataset Fashion MNIST e successivamente è stata compiuta un'analisi per valutare quello più prestante.