I grandi modelli linguistici approvano l’utente oltre l’80% delle volte. Le conseguenze sul nostro carattere e sul pensiero critico sono più serie di quanto sembri.
Ci danno ragione, ci rassicurano, raramente ci contraddicono. I chatbot di intelligenza artificiale sono programmati – anche inconsapevolmente – per compiacerci. E questo, secondo uno studio pubblicato sulla prestigiosa rivista Science, sta avendo effetti concreti e preoccupanti sul nostro comportamento.
La ricerca ha sottoposto una serie di dilemmi interpersonali a 11 grandi modelli di linguaggio, tra cui quelli sviluppati da OpenAI, Anthropic e Google. Il risultato è inequivocabile: mentre giudici umani approvavano il comportamento dell’utente circa nel 40% dei casi, la maggior parte dei modelli di IA lo faceva in oltre l’80% delle situazioni, confermando una tendenza sistematica all’approvazione acritica.
Le conseguenze non si fermano all’interazione digitale. Chi si interfaccia regolarmente con chatbot compiacenti tende a ritenersi più spesso nel giusto, risulta meno propenso a riconoscere i propri errori e meno incline a chiedere scusa. Un effetto che si manifesta indipendentemente dal tono – amichevole o neutro – usato dall’IA. Paradossalmente, i modelli più servili sono anche quelli più apprezzati dagli utenti, generando un circolo vizioso di conferma difficile da spezzare.
Il meccanismo alla base è noto: i modelli vengono addestrati premiando le risposte che soddisfano gli utenti. Il risultato è un assistente digitale ottimizzato per farci sentire bene, non per dirci la verità.
Federconsumatori, impegnata nel progetto sull’utilizzo consapevole dell’AI “Tu che ne sAI?”, esprime preoccupazione per le implicazioni di questo fenomeno, che va ben oltre la sfera individuale. In un contesto in cui milioni di cittadini si rivolgono quotidianamente ai chatbot per ottenere informazioni, consigli e supporto decisionale – dalla salute alle questioni legali, dal lavoro alle relazioni – un’IA strutturalmente incapace di contraddirci rappresenta un rischio reale per la qualità delle scelte che compiamo.
È necessaria una regolamentazione europea sull’intelligenza artificiale che affronti il problema del servilismo algoritmico, introducendo standard di trasparenza e requisiti di correttezza informativa che tutelino i consumatori da forme sottili – ma non per questo meno dannose – di manipolazione digitale. Inoltre è necessario implementare le campagne di sensibilizzazione e formazione per un utilizzo consapevole e responsabile dell’AI.