GLI EFFETTI INDESIDERATI DELLA MODERAZIONE DEI CONTENUTI SULLE PIATTAFORME ONLINE

Content moderation has become a constitutive function of digital platforms, essential to contain phenomena such as disinformation, hate speech, and illegal material, yet also a source of significant economic and social side effects. This thesis investigates the unintended consequences of moderation, showing that it is never a neutral activity but rather the outcome of strategic choices that affect the balance between user protection, freedom of expression, and economic sustainability. After examining the social risks of an absence of moderation and the hidden costs linked to algorithmic errors and the invisible labor of human moderators, the study focuses on the trade-offs between engagement and brand safety, with particular reference to the emblematic case of YouTube’s “Adpocalypse” and to asymmetric moderation dynamics in the adult content sector. Finally, the thesis analyzes the regulatory frameworks in Europe and the United States: on the one hand, the Digital Services Act, which introduces obligations of transparency and accountability, and on the other, Section 230 of the Communications Decency Act, which grants broad immunity to platforms. The evidence collected demonstrates that moderation, while indispensable for the functioning of the digital ecosystem, inevitably produces negative externalities that raise ongoing economic, ethical, and political challenges.

La moderazione dei contenuti rappresenta oggi una funzione costitutiva delle piattaforme digitali, necessaria per contenere fenomeni come disinformazione, hate speech e contenuti illegali, ma al tempo stesso fonte di rilevanti conseguenze economiche e sociali. L’elaborato analizza i principali effetti indesiderati di tali pratiche, mostrando come esse non siano mai neutrali, bensì frutto di scelte strategiche che incidono sull’equilibrio tra tutela degli utenti, libertà di espressione e sostenibilità economica. Dopo aver esaminato i rischi sociali dell’assenza di moderazione e i costi nascosti legati a errori algoritmici e al lavoro invisibile dei moderatori, lo studio approfondisce i trade-off tra engagement e brand safety, con particolare attenzione al caso emblematico dell’“Adpocalypse” di YouTube e alle dinamiche di moderazione asimmetrica nel settore dei contenuti per adulti. Infine, viene analizzato il quadro regolatorio comparato tra Europa e Stati Uniti: da un lato il Digital Services Act, che introduce obblighi di trasparenza e accountability, dall’altro la Section 230 del Communications Decency Act, che tutela l’immunità delle piattaforme. Le evidenze raccolte dimostrano come la moderazione, pur indispensabile per la tenuta dell’ecosistema digitale, generi inevitabili esternalità negative che sollevano interrogativi economici, etici e politici ancora aperti.