Machine learning explainability through persistent homology

Our aim is to gain insights into neural network learning dynamics by using a tool used in Topological Data Analysis: graph persistent homology. We construct a weight graph associated to a neural network parameters and employ persistent homology to track topological changes during training. We explore the relationship between architecture, dataset complexity, and weight graph evolution, providing guidance for model selection and optimization.

Il nostro obiettivo è acquisire informazioni sulla dinamica di apprendimento delle reti neurali utilizzando uno degli strumenti principali della Topological Data Analysis: l'omologia persistente. Costruiamo un grafo dei pesi associato ai parametri di una rete neurale e utilizziamo l'omologia persistente per monitorare i cambiamenti topologici che avvengono durante l'addestramento. Esploriamo la relazione tra architettura, complessità del dataset ed evoluzione del grafo dei pesi, fornendo un nuovo approccio per la selezione e l'ottimizzazione del modello.