ChatGPT produce una risposta perfetta. È ordinata, chiara, convincente. Non esita, non balbetta e spesso aggiunge esempi, termini tecnici e una conclusione ben confezionata. C’è solo un problema: non sappiamo ancora se quella risposta sia vera. Il problema più grande è che, dopo averla letta, spesso smettiamo di chiedercelo.
È qui che nasce l’epistemia: una condizione in cui la plausibilità linguistica prende il posto della valutazione epistemica. In parole semplici, una risposta ci sembra conoscenza perché è scritta bene, anche se non abbiamo verificato fonti, prove e passaggi logici. Il termine è proposto da Walter Quattrociocchi, Valerio Capraro e Matjaž Perc nel paper Epistemological Fault Lines Between Human and Artificial Intelligence, pubblicato su arXiv il 22 dicembre 2025.
L’epistemia non coincide con una semplice allucinazione dell’AI. Può verificarsi anche quando la risposta è corretta: il punto è che riceviamo il risultato senza attraversare il processo necessario per giustificarlo. La sensazione di sapere sostituisce il lavoro del conoscere.
Che cos’è l’epistemia?
L’epistemia descrive la separazione tra un contenuto e la sua valutazione. Il chatbot ci consegna un testo finito, ma noi non vediamo la ricerca delle fonti, il confronto tra prove, la ricerca di controesempi e la revisione delle ipotesi. A volte questi passaggi non sono stati svolti affatto; altre volte sono stati simulati nel linguaggio.
L’AI ci consegna il piatto pronto. Noi non vediamo la cucina, non conosciamo tutti gli ingredienti e, in molti casi, non controlliamo nemmeno la data di scadenza.
Non è una diagnosi clinica e non è un nuovo nome per la disinformazione. È un concetto filosofico e sociotecnico che aiuta a descrivere un ambiente in cui diventa difficile distinguere tra sapere, sembrare di sapere e simulare la conoscenza.
Epistemia e allucinazioni dell’AI non sono la stessa cosa
Una allucinazione si verifica quando un sistema genera un’informazione falsa o inventata presentandola in modo plausibile. L’epistemia è un fenomeno più ampio: riguarda il modo in cui la risposta viene accettata e inserita nei nostri processi decisionali.
| Allucinazione |
Epistemia |
| La risposta contiene informazioni errate o inventate. |
La risposta viene accettata senza un vero processo di valutazione. |
| Il problema principale è l’errore fattuale. |
Il problema principale è la sostituzione del giudizio. |
| Può essere scoperta confrontando il testo con le fonti. |
Può esistere anche quando il contenuto è corretto. |
| Riguarda soprattutto l’output. |
Riguarda l’intero ambiente in cui produciamo conoscenza. |
Potremmo dire che l’allucinazione è un possibile sintomo, mentre l’epistemia è la condizione che ci rende disposti a fidarci del sintomo.
Perché una risposta ben scritta ci sembra più vera?
Noi esseri umani usiamo continuamente scorciatoie cognitive. La fluidità di un testo, la sicurezza del tono, la familiarità delle parole e la chiarezza dell’esposizione diventano indicatori indiretti di attendibilità. Un messaggio facile da elaborare tende a sembrarci più credibile di uno confuso o esitante.
I chatbot generativi sono particolarmente efficaci su questo terreno. Producono testi fluidi, coerenti e formalmente autorevoli. Il rischio è confondere:
- la coerenza con la correttezza;
- la sicurezza espressiva con la competenza;
- la precisione linguistica con la precisione fattuale;
- una spiegazione plausibile con una spiegazione dimostrata.
Uno studio pubblicato su PNAS ha mostrato che affidare a un modello linguistico il fact-checking di titoli di notizie può, in alcune condizioni, peggiorare la capacità delle persone di distinguere il vero dal falso. Aggiungere un chatbot al processo non produce automaticamente una verifica migliore.
Un lavoro pubblicato su Nature parla invece di “illusioni di comprensione” nella ricerca scientifica: l’aumento della produttività può far credere di capire un fenomeno meglio di quanto lo si comprenda davvero. Più output non significa necessariamente più conoscenza.
Le sette fratture tra intelligenza umana e LLM
Il paper individua sette fault lines, cioè sette fratture epistemologiche tra il modo in cui una persona forma un giudizio e il modo in cui un Large Language Model genera una risposta. Per comprendere il meccanismo di base può essere utile anche il mio simulatore LLM, che mostra come l’AI sceglie la parola successiva.
1. Grounding: esperienza del mondo contro input
Una persona incontra il mondo attraverso il corpo, i sensi, le relazioni e le conseguenze delle proprie azioni. Un modello elabora dati trasformati in rappresentazioni numeriche. Può descrivere un mal di schiena, un treno perso o un progetto fallito, ma non li ha vissuti.
2. Parsing: interpretazione contro tokenizzazione
Quando entriamo in una stanza osserviamo parole, tono, silenzi, espressioni e relazioni di potere. Il modello scompone l’input in token e ricostruisce una risposta sulla base delle regolarità apprese. Può cogliere molti segnali, ma dipende sempre dalle informazioni disponibili e dal modo in cui la situazione è stata rappresentata.
3. Esperienza: memoria autobiografica contro associazioni statistiche
Un essere umano collega ciò che accade a episodi vissuti, concetti appresi e intuizioni fisiche e sociali. Un LLM non possiede una biografia. Quando usa formule come “nella mia esperienza”, salvo particolari contesti applicativi, sta generando linguaggio: non sta aprendo il cassetto dei ricordi.
4. Motivazione: obiettivi umani contro ottimizzazione
Noi decidiamo sotto l’influenza di bisogni, paure, valori, interessi e progetti. Il modello non vuole fare carriera, non teme di perdere un cliente e non desidera proteggere la propria reputazione. Può simulare prudenza ed empatia, ma la simulazione funzionale non equivale a una motivazione intrinseca.
5. Causalità: spiegare il perché contro riconoscere regolarità
Gli esseri umani cercano rapporti causali: che cosa ha prodotto un evento? Che cosa cambierebbe modificando una variabile? Gli LLM sanno descrivere bene relazioni causali presenti nei testi, ma possono diventare fragili quando la situazione è insolita, contraddittoria o rompe le correlazioni più frequenti.
6. Metacognizione: sapere di non sapere
Una persona può fermarsi e ammettere di non avere elementi sufficienti. Un chatbot può pronunciare la stessa frase, ma non è detto che derivi da un’autentica consapevolezza del limite. Uno studio su dodici modelli, pubblicato su Nature Communications, ha rilevato difficoltà importanti nel riconoscere i propri limiti durante compiti di ragionamento medico.
7. Valori: responsabilità contro probabilità
Un medico, un insegnante, un dirigente pubblico o un giornalista rispondono delle proprie decisioni. Il modello non subisce direttamente le conseguenze di un errore. Può essere vincolato da regole, ma non porta sulle proprie spalle il peso morale, sociale o professionale della scelta.
Il vero rischio: trasformare la conoscenza da processo a prodotto
Questa è la parte più utile del concetto di epistemia. Siamo abituati a pensare alla conoscenza come a un risultato: una risposta, una definizione, un documento, una presentazione. In realtà, conoscere è un processo.
- formulare una domanda;
- raccogliere elementi;
- valutarne la provenienza;
- confrontare versioni diverse;
- riconoscere ciò che manca;
- modificare la propria opinione;
- assumersi la responsabilità della conclusione.
L’AI generativa comprime questi passaggi in un unico output. Scriviamo una domanda, aspettiamo qualche secondo e riceviamo il prodotto finale. È un vantaggio enorme in termini di velocità, ma può renderci epistemicamente passivi: non esercitiamo più il giudizio, lo consumiamo.
Cinque esempi concreti di epistemia al lavoro
Un responsabile HR chiede all’AI quale candidato assumere
Il chatbot confronta i curriculum e produce una graduatoria impeccabile. Se nessuno controlla quali elementi siano stati privilegiati, quali informazioni mancassero e quali bias fossero presenti nei documenti, la classifica viene trattata come conoscenza anche se è soltanto un’elaborazione plausibile.
Un avvocato riceve una sintesi giuridica
Il testo contiene sentenze e riferimenti normativi, ma basta una pronuncia inesistente o una norma superata per renderlo pericoloso. Il problema non è usare l’AI per preparare una bozza: è scambiare la bozza per un parere verificato.
Un medico usa un chatbot per interpretare un caso
La risposta può essere utile per ampliare le ipotesi. Diventa epistemia quando l’ordine e la sicurezza del testo sostituiscono anamnesi, linee guida, esami e responsabilità professionale.
Un funzionario pubblico prepara una risposta a un cittadino
L’AI scrive una comunicazione chiara e cortese. Se nessuno verifica la versione aggiornata della normativa, la competenza dell’ente e le particolarità del caso, la fluidità linguistica nasconde una fragilità amministrativa. Per questo, nella mia guida a ChatGPT nella Pubblica Amministrazione, il controllo umano resta centrale.
Uno studente prepara un’interrogazione
Legge un riassunto e riesce a ripeterlo. Ma saprebbe affrontare un’obiezione, collegare due opere o riconoscere un’interpretazione controversa? L’epistemia compare quando la capacità di ripetere un contenuto viene scambiata per comprensione. È uno dei motivi per cui i percorsi di AI literacy per scuole, docenti e studenti devono insegnare metodo, non soltanto prompt.
Una tesi potente, ma da non trasformare in dogma
Il lavoro di Quattrociocchi, Capraro e Perc è una Perspective depositata su arXiv. È una proposta teorica utile, non l’ultima parola scientifica sul funzionamento degli LLM. Alcune formulazioni sono volutamente forti, soprattutto quando negano ai modelli ogni forma di metacognizione.
Sul piano filosofico, distinguere tra consapevolezza e simulazione linguistica della consapevolezza è fondamentale. Sul piano ingegneristico, però, esistono tecniche per migliorare la calibrazione, misurare l’incertezza e permettere ai sistemi di astenersi. La calibration tuning, per esempio, prova ad allineare meglio la fiducia espressa dal modello con la probabilità che la risposta sia corretta.
Questo non dimostra che il modello possieda una metacognizione simile a quella umana. Dimostra però che possiamo progettare sistemi capaci di comportarsi in modo epistemicamente più prudente. Un comportamento affidabile non prova l’esistenza di una coscienza, ma può ridurre i rischi pratici.
Come difendersi dall’epistemia
La soluzione non è smettere di usare ChatGPT, Gemini, Claude, Copilot o gli altri strumenti. Sarebbe come rinunciare alla calcolatrice perché qualcuno potrebbe usarla senza capire la matematica. Serve progettare meglio il rapporto tra generazione automatica e giudizio umano.
1. Separare generazione e verifica
La stessa risposta non dovrebbe essere contemporaneamente bozza, prova, verifica e decisione finale. Usiamo l’AI per proporre ipotesi e sintetizzare documenti; la verifica deve appoggiarsi a fonti identificabili e, quando possibile, indipendenti.
2. Chiedere la provenienza delle affermazioni
Non basta domandare “indicami le fonti”. Conviene chiedere la fonte primaria, il passaggio che supporta ogni affermazione, la data di pubblicazione e ciò che non è stato possibile verificare. Il collegamento fornito dal chatbot va comunque aperto e controllato.
3. Rendere visibile l’incertezza
Un buon workflow distingue tra informazioni presenti nelle fonti, inferenze, ipotesi, elementi controversi e dati mancanti. La sicurezza grammaticale non deve cancellare l’incertezza reale del contenuto.
4. Cercare controesempi
Dopo una risposta possiamo chiedere: “Quali elementi potrebbero smentire questa conclusione?” oppure: “Assumi che la risposta precedente sia sbagliata: quali sono le tre cause più probabili dell’errore?”. L’obiettivo non è ottenere automaticamente la verità dal secondo prompt, ma impedire che il primo output chiuda troppo presto il ragionamento.
5. Collegare le risposte a fonti delimitate
Sistemi basati su RAG, knowledge base aziendali o raccolte documentali definite riducono la distanza tra risposta e prove. Gemini Notebook (ex NotebookLM), per esempio, è utile quando vogliamo interrogare un insieme preciso di documenti e risalire ai passaggi citati. Il grounding non rende il sistema infallibile, ma rende più semplice controllarlo.
6. Mantenere l’essere umano nel punto giusto
Il controllo deve essere proporzionato alle conseguenze. Per una bozza di newsletter può bastare una rilettura. Per un pagamento, una diagnosi, un contratto, una selezione o una comunicazione istituzionale serve una responsabilità umana identificata. È il principio dell’human-in-the-loop e human-on-the-loop: l’AI prepara e propone, ma alcune decisioni non devono essere eseguite senza approvazione.
7. Valutare il processo, non soltanto il risultato
Quando uno studente, un dipendente o un consulente consegna un documento realizzato con l’AI, non dovremmo chiedere soltanto se il testo è fatto bene. Dovremmo sapere quali fonti sono state usate, quali parti sono state generate, quali controlli sono stati eseguiti, quali modifiche sono state apportate e quali dubbi restano aperti.
Un prompt antiepistemia da provare
Analizza la richiesta senza dare per scontato che esista una risposta certa.
Separa chiaramente: fatti verificati, informazioni ricavate dalle fonti, inferenze, ipotesi ed elementi controversi o mancanti.
Per ogni affermazione importante indica una fonte primaria e verificabile. Cerca almeno due controesempi o interpretazioni alternative. Segnala ciò che non puoi verificare.
Se i dati non sono sufficienti, non completare la risposta con informazioni plausibili: formula le domande necessarie. Concludi indicando quali controlli deve svolgere una persona prima di usare il risultato.
Il prompt può migliorare il workflow. Non trasforma il chatbot in un’autorità epistemica. Anche la risposta a questo prompt deve essere controllata.
Dall’alfabetizzazione digitale all’alfabetizzazione epistemica
Per anni abbiamo parlato di alfabetizzazione digitale: sapere usare dispositivi, software, motori di ricerca e piattaforme. Ora serve qualcosa in più.
Gli autori parlano di epistemic literacy, cioè alfabetizzazione epistemica. Significa comprendere non soltanto come usare un sistema, ma anche come produce le risposte, quali operazioni non svolge, quando il contenuto è collegato a prove, quali responsabilità devono restare umane e quando è necessario sospendere il giudizio.
L’alfabetizzazione epistemica non sostituisce il pensiero critico. Lo aggiorna per un ambiente in cui testi e argomentazioni credibili possono essere prodotti automaticamente e in quantità quasi illimitata.
L’AI può rispondere, ma chi sta giudicando?
L’intelligenza artificiale generativa non ci obbliga a smettere di pensare. Ci rende però molto più facile farlo. Una risposta elegante arriva in pochi secondi; verificarla richiede tempo, aprire le fonti richiede fatica e confrontare ipotesi contrastanti produce incertezza.
L’epistemia nasce in questo spazio: la risposta è immediata, mentre il giudizio resta faticoso.
La domanda pratica non è soltanto se ChatGPT capisca davvero nello stesso modo in cui capiamo noi. È questa: stiamo usando l’AI per sostenere il nostro giudizio o per evitarlo?
Quando un chatbot produce una risposta, il lavoro cognitivo non è terminato. È appena iniziato.
Domande frequenti sull’epistemia
Che cosa significa epistemia?
Indica una condizione in cui una risposta linguisticamente plausibile viene scambiata per conoscenza verificata. La sensazione di sapere prende il posto del controllo di prove, fonti e ragionamento.
Epistemia e allucinazioni AI sono sinonimi?
No. Un’allucinazione è un’informazione falsa o inventata generata dall’AI. L’epistemia riguarda il modo in cui accettiamo una risposta senza valutarne adeguatamente le basi e può verificarsi anche quando il contenuto è corretto.
L’epistemia è una malattia?
No. Non è una diagnosi medica o psicologica, ma un concetto filosofico e sociotecnico proposto per descrivere alcuni effetti dell’integrazione dell’AI nei processi di conoscenza e decisione.
Come si evita l’epistemia?
Separando generazione e verifica, controllando le fonti primarie, rendendo visibile l’incertezza, cercando controesempi, mantenendo la supervisione umana e valutando il processo seguito.
L’intelligenza artificiale può sapere di non sapere?
I modelli possono essere addestrati a esprimere incertezza, chiedere informazioni e astenersi dal rispondere. È discusso se questo comportamento rappresenti metacognizione o una sua simulazione funzionale.
Possiamo fidarci delle risposte dei chatbot?
Possiamo usarle come bozze, sintesi, ipotesi e strumenti di supporto. La fiducia deve però dipendere dal contesto, dalle fonti, dai controlli effettuati e dalle conseguenze di un eventuale errore.
Fonti principali
Scrivimi per organizzare un evento o un corso sull’intelligenza artificiale generativa
Mandami un WhatsApp al 339.6325418 per organizzare un corso o una conferenza sull’A.I. generativa.
