Una panoramica sulle reti neurali

In questo elaborato verrà trattato l'argomento relativo alle reti neurali. Ci sarà una breve introduzione che illustra cosa sono e quali sono le loro applicazioni, in particolare la loro capacità di risolvere problemi di supervised learning, quindi quelli di classificazione e regressione. Verrà poi analizzata in dettaglio la loro struttura, partendo dal primissimo modello di rete a singolo strato (ispirato dal corrispettivo umano) ed introducendo i concetti di input, pesi e funzioni di attivazione, sino ad arrivare a quelle che sono conosciute oggi come deep network (reti a più strati), mostrando quali sono i vantaggi e le limitazioni di entrambe. Sarà poi illustrato il modo in cui queste reti vengono allenate e con quali tecniche, rispettivamente discesa del gradiente e back-propagation, che sfruttano una cosiddetta funzione di costo per adattare i parametri della rete durante la fase di allenamento. Saranno mostrate le possibili scelte di funzione di costo (in base alla tipologia di problema da risolvere) ed in generale le problematiche che si possono verificare durante questa fase. Infine, verrà presentato un esempio di implementazione di un problema di classificazione utilizzando il dataset iris, sfruttando la tecnica di back-propagation.