Generazione e rilevamento di audio deepfake: stato dell'arte e sviluppi futuri

I recenti progressi delle tecniche di intelligenza artificiale generativa hanno reso possibile la creazione o modifica di immagini, audio e video con una qualità tale da produrre contenuti artificiali difficilmente distinguibili persino dagli esseri umani. I contenuti multimediali così ottenuti si prestano a svariati utilizzi e presentano diversi vantaggi (soprattutto nell'abbattimento dei costi di produzione), ma celano anche preoccupanti pericoli nel caso di un loro utilizzo malevolo. Si è, pertanto, reso necessario lo sviluppo di strumenti atti al riconoscimento di simili contenuti multimediali sintetici o artefatti, attività sempre più difficile e stimolante data la varietà e la continua evoluzione delle tecniche generative esistenti. Lo studio di questa tesi si focalizza sulla generazione e il rilevamento di audio sintetici, analizzando sia le principali strategie e tecnologie allo stato dell'arte, sia gli sviluppi più recenti. In particolare, verrà dedicata un'attenzione specifica alla problematica del rilevamento, sottolineandone le complessità e delineando i percorsi che la ricerca sta intraprendendo per farvi fronte.