Le chatbot come veicolo di hate speech: studio e analisi dei casi Microsoft “Tay” e “Zo”

This thesis aims to explore the phenomenon of hate speech channeled through chatbots, with particular emphasis on the cases of "Tay" and "Zo" developed by Microsoft. The study examines how these artificial intelligence systems can be manipulated to spread messages of hate and discrimination, delving into the issues related to programming, machine learning, and content moderation. The analysis highlights the urgency to develop effective solutions to prevent the misuse of these technologies, aiming to ensure a correct, ethic use.

La presente tesi mira a esplorare il fenomeno dell'hate speech veicolato attraverso chatbot, con particolare riferimento ai casi di "Tay" e "Zo", sviluppati da Microsoft. Questa ricerca esamina come questi sistemi di intelligenza artificiale possano essere manipolati per diffondere messaggi di odio e discriminazione, analizzando le problematiche relative alla programmazione, all'apprendimento automatico e alla moderazione del contenuto. L'analisi proposta sottolinea l'urgenza di sviluppare soluzioni efficaci per prevenire l'uso improprio di queste tecnologie, al fine di garantirne un uso corretto, etico.