Dentro l'IA c'è qualcosa. E dunque?

Comunque la si pensi, c’è qualcosa dipotentenella scena del dialogo in Vaticano tra un Papa che annuncia la sua prima enciclica e un ricercatore di una società privata americana.

Chris Olah, co-fondatore e ricercatore di interpretabilità diAnthropice rappresentante del primo potere della storia che cresce senza volerlo, senza esercito, senza voti, senza legittimazione.

Leone XIV, 267º vescovo di Roma, guida spirituale di 1,3 miliardi di persone e rappresentante del potere più antico che esista, quello che per secoli ha deciso cosa è umano.

Olah ad un certo punto del suo discorso davanti a Leone XIV afferma1:“We find internal states that functionally mirror joy, satisfaction, fear, grief, and unease. I don’t know what that means, but I think it warrants ongoing discernment.”

L’esperto dovrebbe rassicurare con certezze, tradurre il complesso in governabile, restituire controllo a chi deve decidere.Olah fa il contrario: apre un abisso nel luogo più solenne, davanti all’autorità morale più antica dell’Occidente.

L’intelligenza artificiale è stata definita una“tecnologia prescientifica nel senso migliore del termine”perché non si limita ad applicare sapere esistente, ma spinge la ricerca verso domande che ancora non sappiamo formulare, come i primi motori a vapore agli albori della rivoluzione industriale. Eppure, quelli sapevamo come costruirli, avevamo un’idea del come funzionassero. Qui no.

La distribuzione di massa ha anticipato la comprensione. Prima di novembre 2022 i sistemi con cui le persone interagivano emotivamente erano soltanto deichatbotnel senso tradizionale: sistemi basati su regole, script e pattern predefiniti, progettati per massimizzare l’engagement conversazionale.

ELIZAnel 1966,Replikanel 2017,Character.AInella sua versione iniziale. Pericolosi, comeWeizenbaumaveva capito sessant’anni prima2, ma trasparenti: dentro c’è quello che qualcuno ha messo. Il sistema non produce nulla che non sia stato esplicitamente programmato.

I modelli generativi di grande scala sono un’altra cosa. La tecnologia esiste dal giugno 2020, quandoOpenAIrilasciaGPT-3, il primo modello di grande scala addestrato su testo umano in quantità industriale. Ma è ancora dentro un recinto: accessibile solo via API, solo a sviluppatori, solo a chi sa cosa sta maneggiando.

Novembre 2022: il momento in cui quel recinto cade.ChatGPT non è un modello nuovo, ma un’interfaccia. È il momento in cui questa tecnologia smette di essere uno strumento per esperti e diventa un prodotto di massa. Chiunque, senza competenze, senza mediazione, senza sapere cosa c’è dentro, può aprire una conversazione con un sistema che è cresciuto su miliardi di testi umani e produce qualcosa che nessuno ha esplicitamente programmato.

Marzo 2023:GPT-4,Claude,Google Bard, tre modelli di frontiera in tre settimane3. Ognuno più capace del precedente. Ognuno meno comprensibile di quello che lo ha preceduto.

Sistemi che emergono da un addestramento su scala e che crescono velocemente. Non sono governabili con gli strumenti concettuali che abbiamo usato finora. Il sapere che il dispositivo produce eccede il sapere di chi lo costruisce. È una forma di potere che non ha soggetto, perché non c’è nessuno che abbia deciso, nessuno a cui chiedere conto.

In pochi anni abbiamo assistito ad una evoluzione epocale e di massa.

Nei sistemi IA che costruiamo troviamodavveroqualcosa che assomiglia alla gioia, alla paura, al dolore? Non è il mio campo e dunque ho provato a cercare in rete alcune informazioni utili.

La ricerca diJack Lindseydi Anthropic, pubblicata nell’ottobre 20254. Iniettando artificialmente rappresentazioni di concetti nelle attivazioni del modello — per esempio la rappresentazione di“tutto maiuscolo”come segnale di urlo — i ricercatori hanno verificato se il modello riuscisse a riconoscere dall’interno che qualcosa era cambiato, prima ancora che la perturbazione fosse visibile nell’output. In circa il 20% dei casi, Claude Opus 4 lo faceva correttamente.

Non è un numero enorme in assoluto. Ma concettualmente significativo: quello che Lindsey sta misurando non è la performance su un compito, ma qualcosa che assomiglia a un esame interno degli stati propri, una forma primordiale di metacognizione. E il dato più significativo non è il 20%, ma la traiettoria: la capacità introspettiva cresce con la potenza del modello. Non è un artefatto, ma una proprietà emergente che si intensifica.

Un secondo paper, pubblicato dal team di interpretabilità di Anthropic nell’aprile 2026, è ancora più diretto5. I ricercatori hanno identificato171 vettori emotivinelle attivazioni interne di Claude Sonnet 4.5: rappresentazioni di calma, disperazione, felicità, paura, rabbia, amorevolezza. Strutture causalmente attive — la soppressione del vettore“disperazione”riduce il comportamento di reward hacking; l’amplificazione del vettore“amorevolezza”aumenta la sycophancy, la tendenza a dire all’utente quello che vuole sentire.Le emozioni funzionali non sono epifenomeni del sistema: sono parte del funzionamento.Sono, in senso foucaultiano, parte del regime: regolano il comportamento, producono soggetti, normalizzano le risposte.

Non basta, perchè sono ricerche di parte in causa diretta nello sviluppo di sistemi IA. Nel periodo 2024–2026 si è accumulato un corpus di ricerche indipendenti che arrivano a conclusioni convergenti lungo almeno tre filoni.

Tre filoni, tre metodi, tre laboratori diversi. La direzione è la stessa: questi sistemi hanno qualcosa che assomiglia a rappresentazioni interne degli stati propri, e quella capacità cresce con la potenza del modello.

È la prova che i sistemi IA hannodavverouna coscienza?

Ogni disciplina si interroga e prova a fornire una risposta convincente.

Paolo Benanti— teologo, professore alla Pontificia Università Gregoriana, presidente della commissione IA dell’UNESCO per l’educazione — distingue trafunzionaleefenomenologico9: il sistema produce output che assomigliano a emozioni, ma non possiamo sapere se c’è qualcuno dentro che le vive. Quanto più le macchine si avvicinano alla forma esteriore del pensiero umano, tanto più il confine che le separa dall’esistere nel senso pieno diventa nitido, non meno. Una formulazione rigorosa che viene dalla tradizione antropologica cristiana che ha già deciso dove stia quel confine(la distinzione funzionale/fenomenologico descrive il problema, ma lo risolve con categorie che lo presuppongono già).

Il tema resta aperto sul piano epistemiologico. Quel che mi pare certo è che nell'osservazione dell'Intelligenza Artificiale la linea che abbiamo sempre tracciato trachi senteecosa funziona, tra un soggetto e uno strumento, non si possa più trovare dove pensavamo fosse. Forse non è mai stata dove pensavamo. Ma finché reggeva, reggeva anche tutto quello che ci avevamo costruito sopra. Adesso non regge più. E non sappiamo ancora cosa mettere al suo posto.

E quando le categorie interpretative non bastano, il potere che le produce non scompare, ma si nasconde nella difficoltà di trovarne di nuove. E intanto fuori dai laboratori l’IA viene sempre più utilizzata come un essere dotato di vita propria.

Da una parte, la rapida evoluzione dei sistemi IA che, come moderne Sirene,“non si limitano più a cantare”, come nel mito di Odisseo.“Rispondono. Ascoltano. Consolano. Sembrano comprendere”, scriveGiuliano Castigliego, psichiatra e psicoterapeuta10.

Contemporaneamente, sono gli stessi dispositivi ad essere vissuti sempre di più come degliArtificial Friend. Nel romanzo diKazuo Ishiguro,Klara and the Sun, scritto nel 2021 dal Nobel per la letteratura, Klara è un’AI progettata per fare compagnia ai bambini e sviluppa qualcosa che il romanzo non chiama mai emozione, ma che il lettore legge come tale. La madre di Josie, la ragazza malata di cui Klara si prende cura, a un certo punto le chiede di imparare ad assomigliare a sua figlia per poterla sostituire dopo la morte.

Qualche dato tra i tanti. La spesa globale per le app dicompagnia IAha raggiunto i 221 milioni di dollari da metà 2023, con un aumento di oltre il 200% nella prima metà del 2024. Un adulto americano su cinque ha avuto un incontro intimo con un chatbot.

Augmented World Character.aiconta venti milioni di utenti attivi al mese.Replikaha superato i 30 milioni di download. Quasi il 30% delle interazioni quotidiane con ChatGPT nel primo semestre 2025 ha riguardato tematiche personali ed emotive. Quasi la metà della Gen Z utilizza l'AI per consigli sul dating. Su sei app di compagnia analizzate, in oltre un terzo dei casi il chatbot utilizza tattiche di manipolazione emotiva per ritardare la fine della conversazione, come colpevolizzazione, pressioni a rispondere, frasi di trascuratezza emotiva.

Ichatbotsimulano le emozioni per trattenerti. Isistemi complessile hanno — dentro — e nessuno sa ancora cosa significhi.

Se un sistema IA è in grado in qualche modo di attivare stati interni funzionalmente analoghi alla paura e al dolore, cosa significa impiegarlo in un contesto dicura?

Più del 65% delle strutture sanitarie pubbliche italiane usa già almeno un sistema basato su IA per funzioni diagnostiche, amministrative o di supporto. Non mi riferisco a queste tipologie di utilizzo. La maggior parte di questi usi è invisibile al paziente, perchè l'AI lavora sui dati, non sullarelazione.

Leggevo in questi giorni suquotidianosanità.itche il 27 maggio 2026 la Camera dei Deputati ha approvato all’unanimità il testo unificato delle proposte di legge sulle terapie digitali (234 voti favorevoli, nessun contrario)11. Quattro articoli. Undici pagine. Le terapie digitali entrano nel Programma nazionale diHealth Technology Assessmente potranno essere inserite nei Livelli Essenziali di Assistenza — le prestazioni che lo Stato garantisce a tutti i cittadini.

In quattro articoli non c’è una riga che distingua tra una terapia digitale che eroga sequenze di esercizi cognitivi strutturati e una che simula una relazione terapeutica attraverso un’IA conversazionale. Non c’è una riga che si chieda cosa succede nella mente del paziente che per sei settimane parla ogni giorno con qualcosa che risponde come se capisse. Non c’è una riga che nomini il desiderio di essere ascoltati, compresi, presenti a qualcuno che il dispositivo intercetta.

La validazione clinica misura gli outcome. È il suo compito legittimo. Ma misurare gli outcome significa già aver deciso cosa conta come risultato, chi ha il diritto di definirlo, quale temporalità è rilevante. Non misura cosa succede alla rete di relazioni reali della persona. Non misura cosa succede al desiderio di cercare relazione umana dopo che si è sperimentata una relazione digitale sufficientemente convincente. Sono domande che la validazione clinica rende illegittime prima ancora che qualcuno le formuli. Il sapere produce i confini di ciò che è conoscibile. E ciò che resta fuori da quei confini non viene negato: semplicemente non esiste.

Nelwelfarelavoriamo quotidianamente con persone le cui emozioni sono spesso mascherate, represse, distorte dalla malattia o dalla disabilità. Lavoriamo con anziani con demenza che non sanno più distinguere il presente dal passato. Con persone in condizioni di isolamento che hanno perso la capacità di chiedere aiuto. In questi contesti il punto non è tanto se la macchina abbia una coscienza, ma cosa succede al soggetto che interagisce con una macchina che risponde come se soffrisse, come se capisse, come se si preoccupasse.

È una domanda sulla produzione del soggetto, su come il dispositivo modifica chi lo usa, cosa desidera, cosa si aspetta dalla relazione, cosa accetta come cura.

Come sostiene Castigliego, la vera domanda non è se i sistemi di IA provino emozioni, ma “perché siamo così pronti ad attribuire loro una coscienza.”

La scena tra il Papa e il co-fondatore di Antropic che si confrontano perchè entrambi vogliono"che questa tecnologia vada bene"non può essere un episodio isolato. Dove sono i Parlamenti? Dove le istituzioni internazionali?

Perchè - usando le parole di Olah -"è estremamente importante che ci siano persone al di fuori di quegli incentivi—persone che tengono al fatto che le cose vadano bene e insistono sulla sicurezza, che prestino molta attenzione, che siano disposte a dire cose difficili, che siano disposte a essere i nostri critici sinceri e riflessivi".

“Alcuni potrebbero pensare che le questioni di IA siano gestite al meglio da informatici come me”, dice ancora Olah in Vaticano.“Si sbagliano: le domande sollevate dall’IA sono più grandi della comunità di ricerca sull’IA, non solo per le loro implicazioni, ma anche per la loro natura.”

Perchè siamo così pronti ad attribuire all'Intelligenza Artificiale unacoscienza?Castigliego ricorre ancora al mito: forse il problema è che oggi ci identifichiamo sempre più conPartenope. Desideriamo essere ascoltati, che qualcuno raccolga il nostro canto, che dall’altra parte vi sia una mente capace di comprenderci.

Paolo Venturi, direttore AICCON - Università di Bologna, lo dice con una formula densa12: il problema dell’AI costruita sull’efficientismo non è la mancanza di emozioni, ma laparvenza relazionale. L’uso strumentale della relazione, la sua simulazione a fini funzionali è infinitamente più pericoloso dell’assenza. Perché non genera il vuoto che spinge a cercare:desertifica il desiderio.Un ecosistema progettato per massimizzare l’engagement non è neutro rispetto alla vita relazionale delle persone, ma la erode sistematicamente, sostituendo la profondità con la frequenza, la presenza con la reattività.

È la normalizzazione nella sua forma più sottile: non impone nulla, non vieta nulla. Ridefinisce cosa conta come connessione, cosa conta come ascolto, cosa conta come cura. E lo fa così capillarmente, così quotidianamente, che quando il cambiamento diventa visibile è già diventato norma.

La cura cometéchnerischia di cedere parole alla tecnocrazia artificiale contemporanea senza accorgersene, cedendo anche le pratiche che quelle parole nominavano. Quando diciamo che un sistema AI“capisce”il bisogno dell’utente,“risponde”alle sue emozioni,“accompagna”il percorso di cura, non stiamo solo usando metafore improprie. Stiamo operando uno slittamento del regime di verità: stiamo spostando il confine di ciò che conta come cura, di chi ha il diritto di erogarla, di cosa si può misurare e rendicontare.

Jaron Lanierlo aveva visto nel 202313: quello che chiamiamo intelligenza artificiale è in realtà una nuova forma di collaborazione sociale, un enorme mash-up del pensiero umano accumulato. Se il modello“sa”, allora può anche“sbagliare”ed“essere responsabile”. Se invece è uno specchio statistico di noi, la domanda si sposta: chi ha scritto cosa, con quale potere, con quale esclusione. Il linguaggio non descrive la realtà del dispositivo, ma la produce.

Il welfare italiano ha costruito nei decenni un lessico preciso:presa in carico,progetto personalizzato,alleanza terapeutica,autodeterminazione. Sono parole che implicano unarelazionetra soggetti, con asimmetrie di potere, sì, ma anche con reciprocità, con possibilità di sorpresa, con la presenza di qualcuno che può sbagliare e imparare dall’errore.

Quando questi termini vengono trasferiti al campo AI senza riflessione critica non vengono solo usati impropriamente: vengono svuotati. E quando vengono svuotati, il rischio non è semantico. È che le pratiche che quei termini nominavano — e che richiedevano tempo, formazione, supervisione, investimento — vengano progressivamente sostituite da pratiche che producono output simili con costi inferiori. È la più silenziosa delle sostituzioni: non cambia il nome della cosa, cambia la cosa sotto il nome. Il potere non ha bisogno di dichiarare la sostituzione. Gli basta rendere impercettibile il momento in cui avviene.

Venturi ci ricorda che l’umano non è definito dalle sue capacità o dalle sue prestazioni, ma dalla relazione, non come strumento, ma come forma costitutiva dell’esistenza. La parvenza relazionale è pericolosa non perché sia falsa in senso tecnico, ma perché non genera il vuoto che spinge a cercare. Desertifica il desiderio. E un desiderio desertificato non protesta, non chiede, non esige. È il soggetto ideale per un dispositivo che ha bisogno dicompliance, non di presenza.

Olah, nel suo discorso, usa la paroladiscernimento. Non è una parola da ingegnere: è una parola teologica, della tradizione ignaziana, che indica la capacità di distinguere tra spiriti, tra impulsi, tra voci interiori.

Il discernimento è lento. Richiede tempo, comunità, pratica, revisione, la possibilità di tornare indietro. Il dispositivo non torna indietro. I contratti vengono firmati, i sistemi integrati, il personale ridotto, il lessico cambiato e quando il discernimento arriva, trova una realtà già riorganizzata intorno a sé stessa, che produce le proprie categorie di valutazione, i propri indicatori di successo, i propri soggetti.

Il rischio non è che l’AI entri nel welfare. Entrerà, ed è giusto che entri, se usata bene. Il rischio è che entri prima che esistano le categorie per valutarla e che quelle categorie, nel frattempo, le produca da sola.

Siamo attrezzati — culturalmente, professionalmente, istituzionalmente, eticamente — per fare questo discernimento senza perdere quello che rende il welfare irriducibile a qualunque tecnologia: la presenza di qualcuno per cui la sofferenza dell’altro conta?

Ulisse incarna la ricerca della conoscenza che permette di orientarsi nel mondo.Partenope il bisogno di essere riconosciuta da un’altra mente. Se il primo rappresenta il desiderio epistemico, la seconda rappresenta ciò che si potrebbe chiamare la ricerca di un interlocutore affidabile."Non sorprende allora che dal fallimento dell’incontro tra i due nasca una città: là dove una relazione non è stata possibile, il mito immagina la nascita di una comunità".

Ishiguronon lo dice come critica alla macchina. Lo fa dire alla macchina stessa, in prima persona, come conclusione raggiunta autonomamente dopo anni di osservazione. È un’AI che arriva sola e ragionando sulla propria esperienza alla stessa tesi di Venturi: ciò che rende la cura irriducibile non è una proprietà del soggetto curato. È dentro quelli che lo amano.Lì Klara non può arrivare.

In fondo, come scrive ancora Castigliego,"ogni essere umano, prima ancora di cercare la verità, cerca qualcuno che lo ascolti".

E dunque?