Our aim is to gain insights into neural network learning dynamics by using a tool used in Topological Data Analysis: graph persistent homology. We construct a weight graph associated to a neural network parameters and employ persistent homology to track topological changes during training. We explore the relationship between architecture, dataset complexity, and weight graph evolution, providing guidance for model selection and optimization.
Il nostro obiettivo è acquisire informazioni sulla dinamica di apprendimento delle reti neurali utilizzando uno degli strumenti principali della Topological Data Analysis: l'omologia persistente. Costruiamo un grafo dei pesi associato ai parametri di una rete neurale e utilizziamo l'omologia persistente per monitorare i cambiamenti topologici che avvengono durante l'addestramento. Esploriamo la relazione tra architettura, complessità del dataset ed evoluzione del grafo dei pesi, fornendo un nuovo approccio per la selezione e l'ottimizzazione del modello.
Machine learning explainability through persistent homology
GRIDELLI, IVAN
2022/2023
Abstract
Our aim is to gain insights into neural network learning dynamics by using a tool used in Topological Data Analysis: graph persistent homology. We construct a weight graph associated to a neural network parameters and employ persistent homology to track topological changes during training. We explore the relationship between architecture, dataset complexity, and weight graph evolution, providing guidance for model selection and optimization.File | Dimensione | Formato | |
---|---|---|---|
Gridelli_Ivan.pdf
accesso aperto
Dimensione
5.38 MB
Formato
Adobe PDF
|
5.38 MB | Adobe PDF | Visualizza/Apri |
The text of this website © Università degli studi di Padova. Full Text are published under a non-exclusive license. Metadata are under a CC0 License
https://hdl.handle.net/20.500.12608/61366