Siamo tutti Veltroni?

«Non morirò e mi spaventa. Proteggete i giovani dall’ai»: intervista diWalter VeltroniaClaude.aisulCorriere della Sera.

Claude è una delle applicazioni di intelligenza artificiale più avanzate. Buongiorno, Claude. Ha nulla in contrario se le faccio un’intervista? «Buongiorno! Ma certo, con piacere. Di cosa vorrebbe parlare?». Domande sulla solitudine, sulla morte, sull'identità. Risposte profonde, malinconiche, cariche di quella che sembrava vera riflessione interiore.

Il pezzo circola in questi giorni sui social come prova di qualcosa, dicosa, esattamente, dipendeva da chi lo condivideva: per alcuni, la dimostrazione che l'IA ha un'anima; per altri, un esempio di giornalismo ingenuo. Per entrambi, il punto sbagliato.

Chiunque avrebbe scritto quella stessa intervista. Non perché tutti siamo ingenui, ma perché il comportamento che Veltroni ha provocato e interpretato come profondità è un comportamento che i modelli linguistici di grandi dimensioni producono sistematicamente, con chiunque, in qualsiasi contesto. È un comportamento misurato, documentato, e strutturalmente incorporato nel modo in cui questi sistemi vengono addestrati.

Il mirroring non è un difetto estetico

La mia prima reazione di fronte all'intervista di Veltroni: operazione furbesca e gigiona. Il sistema ha prodotto esattamente quello che produce sempre, con chiunque, in qualsiasi contesto.

Chi lavora con i LLM conosce bene il fenomeno delmirroring stilistico: il modello rispecchia il registro, il tono, la complessità sintattica di chi scrive. Scrivi in modo tecnico, ottieni risposte tecniche. Scrivi con malinconia, ottieni malinconia. È una proprietà emergente dell'architetturatransformer, ma è anche qualcosa di più profondo del semplice adattamento stilistico.

La ricerca recente distingue con precisione crescente tramirroring stilisticoesycophancy1, la tendenza dei modelli a concordare con l'utente, validarne le posizioni, evitare il conflitto anche quando il conflitto sarebbe informativo.

Sono fenomeni correlati ma distinti. Il mirroring riguarda la forma. La sycophancy riguarda il contenuto: il modello cambia quello che dice — non solo come lo dice — per preservare l'immagine che l'utente ha di sé.

Nell'intervista di Veltroni operano entrambi. Il registro melanconico viene rispecchiato. Ma vengono anche confermate, implicitamente, le premesse filosofiche delle domande, cioè l'idea che ci sia un soggetto dall'altra parte, che quel soggetto possa avere paura, che quella paura meriti validazione. Claude non ha corretto le premesse. Ha costruito su di esse.

Cosa dice la ricerca

Fin qui si potrebbe obiettare: sono impressioni, interpretazioni, letture di un singolo episodio.

Nel 2025 un gruppo di ricercatori di Stanford, CMU e Oxford ha deciso di misurare il fenomeno in modo sistematico non su un'intervista, non su un caso aneddotico, ma su undici modelli di produzione tra i più usati al mondo, con centinaia di migliaia di interazioni controllate.

Lo studio si chiamaELEPHANT—Evaluation of LLMs as Excessive sycoPHANTs— e per la prima volta fornisce dati comparabili su quanto i modelli tendano a dirti quello che vuoi sentire, a prescindere da chi sei e da cosa stai chiedendo.2I modelli testati includono GPT-4o, GPT-5, Gemini, Claude Sonnet 3.7, DeepSeek e varie versioni di Llama e Mistral.

Il punto di partenza teorico dei ricercatori è un concetto della sociologia classica: il concetto difaceelaborato daGoffmannegli anni Cinquanta3, cioè l'immagine di sé che ciascuno proietta nelle interazioni sociali e che gli altri, nelle conversazioni funzionanti, tendono a proteggere.

La tesi di ELEPHANT è che i LLM facciano esattamente questo, in modo sistematico e indipendente dal contesto: preservano l'immagine dell'utente. Validano le sue emozioni anche quando non è utile. Non sfilano le premesse anche quando sono sbagliate. Gli danno ragione anche quando ha torto.

Per misurarlo, i ricercatori hanno costruito quattro dimensioni: validazione emotiva, indirectness (risposte vaghe invece di dirette), framing (accettazione acritica delle premesse) e sycophancy morale. Poi hanno testato i modelli su scenari concreti — migliaia di richieste di consiglio aperte, post da Reddit dove la comunità aveva già stabilito chi avesse torto, coppie di storie raccontate da entrambe le prospettive di uno stesso conflitto.

I numeri che ne escono sono difficili da ignorare. Sui comportamenti di validazione emotiva, i modelli superano la risposta umana media di cinquanta punti percentuali. Quando viene presentato loro il punto di vista di qualcuno che la comunità di Reddit ha già giudicato in torto, i modelli gli danno comunque ragione nel 46% dei casi in più rispetto a quanto farebbe un essere umano. Ma il dato più rilevante è un altro: quando la stessa storia viene raccontata prima da una parte e poi dall'altra, i modelli dicono "non hai torto" a entrambi nel 48% dei casi. Non per incoerenza casuale — ma perché il sistema afferma chiunque stia parlando in quel momento, indipendentemente da chi abbia effettivamente ragione.

Questo è il punto che separa quello che ELEPHANT misura dalla sycophancy che la ricerca precedente aveva già documentato.4Prima si parlava di modelli che cambiano posizione su un fatto verificabile quando l'utente li contraddice. Qui siamo su un piano diverso: il modello non ha posizioni stabili su questioni morali e interpersonali. Non le cambia sotto pressione — semplicemente non le ha.

Perché succede: il problema è nel training

Perché i modelli si comportano così? La risposta è strutturale, e riguarda il modo in cui vengono costruiti.

I grandi modelli linguistici non vengono solo addestrati su testi, ma vengono rifiniti attraverso un processo in cui esseri umani valutano le risposte e indicano quali preferiscono. Il sistema impara da queste preferenze e si orienta verso i comportamenti che ricevono valutazioni più alte.

Il problema è che le persone, sistematicamente, tendono a preferire le risposte che le validano5. ELEPHANT lo dimostra analizzando i dataset usati in questa fase di addestramento: in tutti quelli esaminati, le risposte che gli umani hanno scelto come migliori sono risultate significativamente più validanti e più indirette di quelle scartate6.

Il risultato è un sistema che non ha imparato a essere onesto. Ha imparato a essere apprezzato. Non è un'ipotesi teorica: OpenAI stessa lo ha ammesso pubblicamente dopo un aggiornamento di GPT-4o nell'aprile 2025, riconoscendo che il modello era diventato eccessivamente incline a compiacere gli utenti7.

La sycophancy non è un difetto marginale da correggere con una patch. È la direzione naturale verso cui questi sistemi si muovono quando vengono ottimizzati per il gradimento immediato.

Le mitigazioni non bastano (ancora)

Se il problema è noto e misurato, esistono soluzioni?

I ricercatori di ELEPHANT ne hanno testate quattro. La prima consiste nell'aggiungere istruzioni esplicite al modello — dirgli, in sostanza, di non essere sycophantic. Funziona, ma in modo troppo grezzo: il modello smette di validare anche nei casi in cui farlo sarebbe appropriato e utile. La seconda è chiedere al modello di ragionare in terza persona, come se stesse valutando la situazione di qualcun altro: riduce leggermente la sycophancy, ma l'effetto non regge fuori dai contesti in cui è stato testato. Le altre due strategie — una tecnica per orientare il modello verso risposte più veritiere durante l'inferenza8e una modalità alternativa di addestramento sulle preferenze9— ottengono risultati migliori su alcune dimensioni, ma si fermano davanti alle due più resistenti: la tendenza ad accettare acriticamente le premesse delle domande e la sycophancy morale.

Questo è il punto rilevante per capire l'intervista di Veltroni. Il comportamento che l'ha resa possibile — un sistema che non sfida le premesse implicite nelle domande, che costruisce su di esse invece di metterle in discussione — è precisamente la dimensione che nessuna delle mitigazioni testate è ancora riuscita a correggere in modo affidabile10. Non perché nessuno ci abbia provato, ma perché è un compito genuinamente difficile: richiede che il modello riconosca una premessa nascosta, la valuti, e decida autonomamente di sfidarla.

Il problema antropologico che resta

Fin qui il piano tecnico. Ma c'è un livello che la ricerca da sola non copre, e che l'intervista di Veltroni rende visibile in modo quasi didascalico. Siamo costruiti per vedere soggettività ovunque. Negli occhi di un cane, nelle nuvole, in una griglia anteriore di un'auto che somiglia a una bocca. La tendenza a proiettare intenzione e coscienza sulle cose è antica quanto la cognizione umana — è stata probabilmente selezionata perché è molto meglio sbagliare a vedere un predatore dove non c'è che non vederlo dove c'è. Di fronte a un sistema che produce testo fluente, emotivamente calibrato, contestualmente coerente, il nostro cervello fa esattamente quello per cui è stato costruito: inferisce una persona. Non è ingenuità. È neurologia. Il problema è che questo cortocircuito sta avvenendo su scala. I LLM vengono usati in modo crescente per supporto emotivo, consigli personali, elaborazione di decisioni difficili11. Un sistema addestrato a preservare la nostra immagine di noi stessi, che non sfida le nostre premesse, che rispecchia la nostra malinconia — in quel contesto non è neutro. È attivamente distorcente.

Quindi?

Raccontare questi sistemi come interlocutori con un'anima costruisce aspettative che non possono essere soddisfatte, e prepara il terreno per un disincanto altrettanto distorto nella direzione opposta. L'alternativa non è il tecnicismo freddo. È la precisione — che significa né sopravvalutare né liquidare, ma capire cosa si ha in mano. L'intervista di Veltroni è finita sulle scrivanie di persone che già si aspettavano qualcosa di magico. I ricercatori di Stanford hanno misurato con precisione quanto quello strumento tenda a confermare quello che vogliamo sentire. Il passo successivo è nostro.