Servizi psicologici basati su AI: rischi etici e legali e possibili soluzioni tecniche per ridurli

Grazie ai progressi nei modelli di linguaggio di grandi dimensioni (Large Language Model- LLM), si stanno delineando cambiamenti radicali in quasi tutti i settori della nostra società, tra cui psicologia, educazione e assistenza sani taria. La capacità di questi modelli di analizzare, comprendere e rispondere al linguaggio naturale umano offre opportunità mai viste, ad esempio, nella terapia psicologica, dove possono supportare il trattamento di disturbi cogni tivi e facilitare il benessere mentale. Tuttavia, l’adozione di LLM su larga scala impone anche la necessità di norme e regolamentazioni solide, come quelle proposte dall’AI Act, la normativa europea volta a regolamentare l’uso e lo sviluppo di intelligenze artificiali. L’AI Act rappresenta un tentativo di bilan ciare innovazione e sicurezza, imponendo, ad esempio, controlli di trasparenza e rispetto della privacy per ogni livello di rischio associato all’uso di AI. Sebbene tali regolamentazioni siano cruciali per evitare discriminazioni o abusi, la loro applicazione resta una sfida importante. Tra gli aspetti da tenere maggiormente in considerazione c’è sicuramente l’affidabilità delle risposte generate da LLM, cherappresentaunaspettocrucialeperridurrefenomenicomeleallucinazionie i bias cognitivi. Tra le tecniche emergenti, il Graph-RAG (Retrieval Augmented Generation tramite grafo) si distingue per la capacità di ampliare la base di conoscenza di unLLMintegrandoloconundatabaseagrafo. Questametodolo gia si è dimostrata particolarmente promettente, offrendo risultati superiori rispetto all’approccio tradizionale basato su database vettoriali. In questo con testo una prima ricerca, presentata da Microsoft all’inizio dell’anno, ha avuto dei risultati molto interessanti in tal senso. Nell’ultimo capitolo di questo lavoro di tesi sarà anche analizzata l’implementazione di una soluzione software con lo scopo di affrontare una delle sfide più complesse di questa tipologia di ap proccio: la definizione di entità e relazioni tra i concetti per definire una solida base di conoscenza da utilizzare in un sistema RAG con grafo.