Perché i chatbot non dicono «non lo so»? Addestramento, studi e rimedi

Chiedi a un chatbot un dato che non conosce davvero. Invece di fermarsi, spesso costruisce una risposta plausibile, la rifinisce con tono sicuro e te la consegna come se avesse appena consultato un’enciclopedia. È un problema che chi usa ChatGPT, Gemini, Claude o Copilot incontra prima o poi. Ma la premessa va corretta: i chatbot a volte dicono «non lo so». Il punto è che non riconoscono sempre in modo affidabile quando dovrebbero dirlo.

La spiegazione non è che l’intelligenza artificiale “mente” con intenzione. Dipende da come vengono addestrati i modelli, da come stimano la propria incertezza e da quali risposte i sistemi di valutazione tendono a premiare.

Un chatbot genera la risposta più probabile, non consulta un archivio di fatti verificati

Un modello linguistico di grandi dimensioni (LLM) viene pre-addestrato, in sintesi, a prevedere quale token abbia più probabilità di venire dopo una sequenza di testo. Impara regolarità linguistiche e associazioni dai dati di addestramento, che possono contenere informazioni corrette, errori, contraddizioni e contenuti ormai superati. Questa capacità produce risposte fluenti, ma la probabilità che una frase suoni coerente non coincide con la probabilità che sia vera.

Nel rapporto tecnico di GPT-4, OpenAI descrive proprio questa differenza: il pre-addestramento insegna a prevedere la continuazione del testo; il post-addestramento, incluso il reinforcement learning from human feedback (RLHF), orienta il modello a seguire meglio le istruzioni e a comportarsi da assistente. Non significa però che il chatbot acquisisca un rilevatore infallibile della verità o un accesso diretto a una banca dati completa e aggiornata.

Cosa succede durante l’addestramento

Dopo il pre-addestramento, una fase di fine-tuning supervisionato può mostrare al modello esempi di conversazioni desiderabili. In seguito, valutatori umani possono confrontare più risposte e indicare quali preferiscono; un modello di ricompensa e tecniche di ottimizzazione come RLHF aiutano a rendere più probabili le risposte giudicate migliori. I dettagli cambiano tra fornitori e modelli, e spesso non sono pubblici: non esiste una ricetta unica per tutti i chatbot.

Qui nasce un compromesso delicato. Una risposta dettagliata, diretta e ben scritta può apparire più utile di un rifiuto o di una dichiarazione d’incertezza. Ma una risposta cauta può essere la scelta giusta se mancano dati. Nel post che presentava ChatGPT, OpenAI indicava esplicitamente tre difficoltà: durante l’RLHF non c’è sempre una fonte di verità con cui confrontare la risposta; addestrare il modello a essere più prudente può indurlo a rifiutare anche domande a cui saprebbe rispondere; e l’esempio scritto da un dimostratore umano può non riflettere ciò che il modello stesso conosce.

In più, un modello non possiede necessariamente una stima ben calibrata della propria competenza. Può avere appreso un fatto ma non sapere di saperlo, oppure produrre una risposta sicura senza basi sufficienti. Il tono è parte della generazione linguistica, non un certificato di accuratezza.

Cosa dicono gli studi sulle risposte sbagliate e sull’incertezza

Nel 2022, Stephanie Lin, Jacob Hilton e Owain Evans hanno presentato TruthfulQA, un benchmark di 817 domande in 38 categorie, progettato per far emergere risposte che ripetono convinzioni errate diffuse. Nei modelli testati allora, il migliore era veritiero nel 58% delle risposte, contro il 94% ottenuto dalle persone. Sono risultati di modelli di quel periodo, non una classifica degli assistenti disponibili oggi; mostrano però perché imitare il testo umano non basta per distinguere un fatto da un luogo comune falso.

La difficoltà di stimare l’incertezza è stata studiata anche da Zhengbao Jiang e colleghi in una ricerca pubblicata su Transactions of the Association for Computational Linguistics. Esaminando T5, BART e GPT-2 in compiti di domanda e risposta, gli autori hanno rilevato che le probabilità dei modelli non erano ben calibrate rispetto alla correttezza. In altre parole, una maggiore sicurezza numerica non corrispondeva in modo affidabile a una maggiore probabilità di avere ragione.

Un lavoro di Anthropic del 2022, “Language models (mostly) know what they know”, ha mostrato che alcuni modelli possono stimare se una risposta proposta sia corretta e che è possibile addestrarli a stimare la probabilità di “sapere” la risposta. Gli autori hanno però rilevato difficoltà di calibrazione quando la stima viene trasferita a compiti nuovi. Quindi la metacognizione artificiale è possibile, ma non si attiva come un interruttore universale.

Nel 2024, un articolo pubblicato agli atti dell’Association for Computational Linguistics ha studiato come identificare le lacune di conoscenza e astenersi dal rispondere. Gli approcci di collaborazione tra modelli hanno migliorato, in alcuni esperimenti, l’accuratezza dell’astensione fino al 19,3% rispetto alla baseline più forte. È una prova che si può insegnare ai sistemi a fermarsi meglio, ma anche che l’autovalutazione del singolo modello non sempre basta.

Un’analisi pubblicata su Nature nel 2026 aggiunge un punto sugli incentivi: se un benchmark premia soprattutto le risposte corrette e penalizza l’astensione, i modelli e i team che li sviluppano ricevono una spinta a indovinare. In uno studio con quattro modelli di frontiera, gli autori mostrano come cambiano le risposte quando la valutazione riconosce il valore del «non lo so». La metrica scelta può dunque influenzare il comportamento che si cerca di migliorare.

Come ottenere risposte più oneste: cinque rimedi pratici

1. Imposta una regola di astensione. Scrivi: «Se non hai elementi sufficienti, dichiaralo. Non completare i vuoti con ipotesi presentate come fatti».
2. Fornisci le fonti e delimita il perimetro. Per un documento o una procedura, allega il testo e chiedi di rispondere solo sulla base di quel materiale, indicando il passaggio che sostiene ogni affermazione. Chiedi esplicitamente di segnalare ciò che non è presente nei documenti.
3. Separa fatti, inferenze e informazioni mancanti. Chiedi tre sezioni distinte: “documentato”, “dedotto” e “non verificabile con i dati disponibili”. Questa struttura rende più visibili i salti logici.
4. Per i fatti aggiornati, attiva ricerca e fonti primarie. Specifica una data di riferimento e chiedi link a leggi, documentazione ufficiale, paper o pagine istituzionali. Un modello senza ricerca web non può verificare un cambiamento recente solo perché gli viene chiesto di farlo.
5. Controlla le affermazioni importanti fuori dalla chat. Un secondo modello può aiutare a individuare incongruenze, ma può condividere gli stessi errori. Per decisioni professionali o dati rilevanti, verifica la fonte originale o usa uno strumento deterministico, e chiedi una revisione umana quando il rischio lo giustifica.

Prompt da riutilizzare:

Rispondi usando solo le informazioni supportate dalle fonti che ti fornisco o che puoi verificare. Per ogni affermazione fattuale importante indica la fonte e il passaggio rilevante. Distingui i fatti dalle inferenze. Se i dati non bastano, scrivi chiaramente «non lo so con le informazioni disponibili» e indica quale elemento servirebbe per rispondere. Non inventare citazioni o riferimenti.

La frase «dimmi quanto sei sicuro» può aiutare a capire dove il chatbot avverte un dubbio, ma non va presa come una misura oggettiva: gli studi sulla calibrazione mostrano che le stime di confidenza possono essere inaffidabili, soprattutto in domini o compiti diversi da quelli su cui sono state valutate.

Per chi progetta un assistente: misurare anche quando si ferma

Un sistema affidabile non dovrebbe essere valutato soltanto sul numero di risposte corrette. Serve misurare anche quante volte risponde quando le prove sono insufficienti, quante volte si astiene a torto e quanto rischio rimane tra le risposte che ha scelto di dare. In letteratura questo compromesso viene spesso descritto come selezione tra copertura e rischio: rispondere a meno domande può abbassare gli errori, ma l’astensione deve essere mirata e utile.

In un assistente aziendale, si può restringere la risposta alle fonti approvate, collegare il sistema a documenti aggiornati, mostrare i riferimenti, impostare soglie di escalation e passare a una persona i casi incerti o ad alto impatto. Il lavoro ACL sulla collaborazione tra modelli e il recente studio su Nature indicano entrambi che astensione ed evidenze vanno progettate e valutate, non affidate a una formula magica nel prompt.

Un video utile per approfondire

Adam Kalai dell’Institute for Advanced Study spiega perché l’addestramento e i criteri di valutazione possono incoraggiare i modelli a indovinare invece di astenersi.

Domande frequenti

I chatbot mentono quando inventano una risposta?

Di norma non nel senso umano di mentire con un’intenzione consapevole. Generano testo plausibile senza garantire che ogni affermazione sia verificata. Per questo si parla di allucinazione o confabulazione.

Chiedere «dimmi se non lo sai» risolve il problema?

Può ridurre alcune risposte inventate, soprattutto se si forniscono fonti e si chiarisce quando astenersi. Non garantisce però che il modello riconosca tutti i propri limiti: le istruzioni migliorano il comportamento, non trasformano la stima di sicurezza in una verifica infallibile.

Qual è il modo più sicuro di usare un chatbot per una ricerca?

Usalo per orientarti, organizzare domande e confrontare ipotesi; chiedi evidenze verificabili; controlla i riferimenti nelle fonti originali. Per informazioni recenti usa ricerca web e indica la data. Per decisioni ad alto impatto, non delegare il controllo finale al chatbot.

La risposta migliore a volte è fermarsi

Un assistente utile non è quello che riempie ogni silenzio. È quello che sa distinguere una risposta sostenuta dai dati da un’ipotesi ben confezionata, e che rende visibile la differenza. Fino a quando questa capacità non sarà abbastanza affidabile, la regola pratica resta semplice: chiedi prove, fornisci contesto e verifica ciò che conta.

Se stai progettando un corso, un assistente AI o un percorso di formazione su questi temi, raccontami il tuo progetto.