REGULATING THE APPLICATION OF ARTIFICIAL INTELLIGENCE IN MENTAL HEALTH: The AI act and patients’ rights

Artificial Intelligence (AI) is transforming the field of mental health, providing advanced tools for diagnosis, treatment, and patient support. However, its implementation raises significant ethical and regulatory challenges. This thesis explores the evolution of AI in psychiatry and psychology, with a particular focus on the European Union’s AI Act and patients' rights. The first chapter examines the historical development of AI in mental health, from machine learning to natural language processing, highlighting critical issues such as algorithmic bias, data privacy, and transparency. The second chapter delves into the AI Act, the EU’s legislative framework that classifies AI applications based on risk, identifying those used in mental health as "high risk." It analyzes the implications of this regulation, governance challenges, and implementation prospects. The third chapter focuses on patients' rights, addressing key ethical concerns such as informed consent, fairness, and accountability in AI-driven clinical decision-making. The dissertation concludes with a reflection on the future of AI in mental health, emphasizing the need to balance technological innovation, rights protection, and effective regulation. Through a critical analysis of the AI Act and its impact on mental health, this work contributes to the debate on the development of safe, ethical, and patient-centered AI systems.

L’Intelligenza Artificiale (IA) sta trasformando il settore della salute mentale, offrendo strumenti avanzati per la diagnosi, il trattamento e il supporto ai pazienti. Tuttavia, il suo impiego solleva importanti questioni etiche e normative. Questa tesi esplora l’evoluzione dell’IA nella psichiatria e nella psicologia, con particolare attenzione all’AI Act dell’Unione Europea e ai diritti dei pazienti. Il primo capitolo analizza lo sviluppo storico dell’IA nella salute mentale, dai primi chatbot al Natural Language Processing, evidenziandone le criticità. Il secondo capitolo approfondisce l’AI Act, il quadro legislativo dell’UE che classifica le applicazioni IA in base al rischio, identificando come “ad alto rischio” quelle impiegate nella salute mentale. Vengono esaminate le implicazioni di tale regolamentazione, le sfide di governance e le prospettive di implementazione. Il terzo capitolo si concentra sui diritti dei pazienti, affrontando i temi del consenso informato, l’equità e la responsabilità legale nell’impiego dell’IA nei processi decisionali clinici. La tesi si conclude con una riflessione sulle prospettive future dell’IA nella salute mentale, evidenziando la necessità di un equilibrio tra innovazione tecnologica, tutela dei diritti e regolamentazione efficace. Attraverso un’analisi critica dell’AI Act e delle sue implicazioni per la salute mentale, questo elaborato contribuisce al dibattito sulla creazione di sistemi di IA sicuri, etici e centrati sul paziente.