Intelligenza artificiale applicata al marketing digitale: implicazioni etiche dei recommendation systems

Artificial intelligence technologies are profoundly changing all business sectors and the lives of individuals, making this the most promising or potentially dangerous period ever. One of the sectors most affected is marketing where AI is being used to improve internal operations, increase turnover and ensure the best possible customer experience. However, in addition to their numerous advantages, these systems are carriers of many limitations and questions. Recommendation systems represent a decisive tool in the consumer decision journey; they can increase the chances of conversion by optimizing personalization and generating information based on individual user preferences and interests. But in addition to the benefits, recommendation systems have some negative sides that can affect both the personal identity and the social sphere of the individual. The aim of this study is to understand what impact recommendation systems have on people and society, and to analyze the perceptions of the users themselves. To answer these questions, a qualitative survey was carried out, which made it possible to define a survey questionnaire that was subsequently submitted to the reference sample (student population aged between 18 and 35). The analysis of the data obtained revealed a common perception of low influence, a result validated by an equally low perception of both the advantages and the negative effects. Despite the reduced influence, the sample's perceived concern about the evolution of recommendation systems is very high, which indicates the existence of a crisis of confidence in new technologies. In addition, the ethical issue proved to be a decisive factor in the perceptions of users, who would like marketing strategies that are genuinely geared towards their more concrete well-being. Artificial intelligence should therefore be used to achieve this goal, but will man himself ever be able to program recommendation systems and technologies with artificial intelligence from this perspective? Future research could be carried out to extend the research to the whole population, analyzing the perceptions of different generations, and to investigate in depth the condition of intellectual isolation attributed to the use of recommendation algorithms.

Le tecnologie dotate di intelligenza artificiale stanno modificando profondamente tutti i settori aziendali e la vita degli individui, rendendo questo il periodo più promettente o potenzialmente pericoloso mai visto prima d’ora. Uno dei settori maggiormente coinvolti è il marketing dove l’AI viene impiegata per migliorare l’operatività interna, aumentare il fatturato e garantire la miglior customer experience possibile. Tuttavia, oltre a numerosi vantaggi, questi sistemi sono vettori di molteplici limiti e interrogativi. I sistemi di raccomandazione, in particolare, rappresentano uno strumento decisivo nel consumer decision journey; essi, infatti, sono in grado di aumentare le possibilità di conversione ottimizzando la personalizzazione e generando informazioni sulla base delle preferenze e degli interessi del singolo utente. Ma oltre ai benefici, i sistemi di raccomandazione presentano alcuni lati negativi che possono incidere sia sulla sfera dell’identità personale sia sulla sfera sociale dell’individuo. L’obiettivo di questo studio è comprendere quali sia l’impatto che i recommendation systems riversano sull’uomo e sulla società, analizzando, in aggiunta, le percezioni degli utenti stessi. Per rispondere a questi interrogativi, è stata svolta un’indagine qualitativa che ha reso possibile la definizione di un questionario d’indagine sottoposto, in un secondo momento, al campione di riferimento (popolazione a carattere studentesco di età compresa tra i 18 e i 35 anni). L’analisi dei dati ottenuti ha fatto emergere una percezione comune di scarsa influenzabilità, risultato validato da una altrettanto scarsa percezione sia dei vantaggi che degli effetti negativi. Nonostante la ridotta influenzabilità, la preoccupazione percepita dal campione verso l’evoluzione dei sistemi di raccomandazione si attesta molto alta; risultato che delinea l’esistenza di una crisi di fiducia verso le nuove tecnologie. Inoltre, la questione etica si dimostra determinante nelle percezioni degli utenti, i quali vorrebbero delle strategie di marketing realmente orientate al loro benessere più concreto. L’intelligenza artificiale dovrebbe, quindi, essere impiegata per raggiungere questo scopo; ma l’uomo stesso sarà mai in grado di programmare i sistemi di raccomandazione e le tecnologie dotate di intelligenza artificiale secondo questa prospettiva? Ricerche future potrebbero essere svolte per ampliare la ricerca all’intera popolazione, analizzando le percezioni delle diverse generazioni, e indagare in modo approfondito la condizione di isolamento intellettuale ricondotta all’utilizzo degli algoritmi di raccomandazione.