Rilevamento di audio deepfake, stato dell'arte e prospettive future

Il rapido progresso dell'intelligenza artificiale generativa ha reso possibile la creazione di audio sintetici iper-realistici, noti come deepfake vocali. Questi contenuti rappresentano una nuova minaccia per la sicurezza informatica e la fiducia nella società digitale. Per contrastare tale fenomeno è necessario comprendere il funzionamento delle nuove tecniche di intelligenza artificiale e la composizione dei recenti dataset multilingua che accrescono l'efficacia nella creazione di tali audio. Diventa quindi importante conoscere gli algoritmi di rilevamento e le loro applicazioni commerciali a livello enterprise per poi affrontare le nuove sfide etiche e l'urgenza di sviluppare nuovi modelli sempre più trasparenti e capaci di operare nel pieno rispetto della privacy degli utenti.