Perché l'AI inventa cose con tanta sicurezza
Di Chatday Editorial Team ·
Fai a un chatbot AI una domanda di cui non conosce la risposta, ed ecco la parte inquietante: non dice quasi mai “non ne sono sicuro”. Spesso ti consegna invece una risposta sicura, ben confezionata e completamente inventata: un titolo di libro falso, una citazione che nessuno ha mai detto, una legge che non esiste. L’AI non sta mentendo di proposito. Semplicemente non conosce davvero la differenza. E una volta che capisci perché succede, non ti farai più ingannare.
Cosa significa davvero “allucinazione”
Nel mondo dell’AI, un‘“allucinazione” è quando un chatbot produce qualcosa che sembra vero ma non lo è: una statistica inventata, una fonte costruita di sana pianta, una risposta sbagliata data con sicurezza. La parola la fa sembrare esotica, ma la versione quotidiana è semplice: l’AI riempie un vuoto nella sua conoscenza con un’ipotesi convincente e la presenta come un fatto.
La parte insidiosa è il tono. Un essere umano che non sa qualcosa di solito esita, tentenna o lo ammette. Un’AI consegna la sua invenzione con la stessa identica calma sicurezza che usa per le cose che azzecca. Niente nervosi “ehm, credo?”, ed è proprio per questo che la gente ci casca.
Allora perché succede?
Per capirlo, devi sapere cosa sta davvero facendo un chatbot dietro le quinte. Non sta cercando i fatti in un database. È una macchina previsionale straordinariamente brava: legge la tua domanda e calcola, parola per parola, come probabilmente suona una risposta sensata, basandosi sui pattern che ha imparato da un’enorme quantità di testo.
È fantastico per scrivere un’email o spiegare un’idea. Ma significa che l’AI insegue la plausibilità, non la verità. Quando conosce la risposta, le parole successive più plausibili risultano essere quelle corrette. Quando non la conosce, le parole dal suono più plausibile potrebbero essere una finzione formulata splendidamente. La macchina non sempre sa distinguere l’una dall’altra: per lei, entrambe sembrano solo “una buona risposta”.
| Cosa pensi che faccia l’AI | Cosa fa in realtà |
|---|---|
| Cerca un fatto e lo riporta | Prevede le parole dal suono più probabile |
| Sa quando non sa | Spesso non distingue un’ipotesi da un fatto |
| Tace se è incerta | Riempie il vuoto con qualcosa di plausibile |
| Cita fonti reali | Può inventare fonti che sembrano reali |
Il colpo di scena: l’AI è addestrata a tirare a indovinare
Ecco la parte che ha sorpreso perfino gli esperti. In un articolo di ricerca del 2025, OpenAI ha spiegato che le allucinazioni non sono solo un difetto: sono in parte integrate nel modo in cui l’AI viene valutata durante l’addestramento.
Pensa a uno studente a un esame a crocette. Se una risposta sbagliata e una casella vuota valgono entrambe zero, ma un’ipotesi fortunata potrebbe valere un punto, la mossa intelligente è sempre tirare a indovinare. I modelli AI vengono testati più o meno allo stesso modo: il punteggio premia una risposta sicura e penalizza il “non lo so”, anche quando non sapere è la risposta onesta e corretta. Così i modelli imparano a bluffare. La soluzione proposta da OpenAI è cambiare il modo in cui li valutiamo, così che ammettere l’incertezza venga premiato invece che penalizzato.
Non è solo teoria: ha costi reali
Le risposte inventate hanno già causato guai concreti:
- Nel 2023, due avvocati di New York hanno usato ChatGPT per aiutarsi a scrivere una memoria legale e l’hanno depositata con sei sentenze che non esistevano: l’AI aveva inventato nomi, citazioni e riferimenti. Un giudice li ha multati di 5.000 dollari.
- Nel 2024, un tribunale canadese ha ordinato ad Air Canada di onorare una politica di rimborso che il suo stesso chatbot di assistenza si era semplicemente inventato quando un cliente in lutto aveva chiesto delle tariffe per lutto. La compagnia ha sostenuto che il bot fosse responsabile di sé stesso; il tribunale non è stato d’accordo.
La lezione di entrambi i casi: la sicurezza di un’AI non è una prova. Per qualsiasi cosa che conti davvero (legale, medica, finanziaria, o “sto per dire alla gente che è vero”), si verifica.
Alcune AI inventano più di altre
L’allucinazione non è ugualmente grave su tutta la linea. Test indipendenti che misurano quanto spesso un modello rimane fedele ai fatti di una fonte che gli viene fornita mostrano divari reali, a volte ampi, tra i modelli, e i più recenti modelli “pensanti”, che si fermano a ragionare prima di rispondere, tendono a essere più accurati di quelli più vecchi a risposta istantanea.
È uno dei motivi per cui conviene non sposare un solo chatbot. Se una risposta sembra importante o sorprendente, fare la stessa domanda a un secondo modello è uno dei controlli più rapidi che esistano: se due AI diverse, costruite da aziende diverse, concordano in modo indipendente, puoi fidarti molto più che di una sola voce sicura.
Come ottenere risposte affidabili
Non devi temere le allucinazioni: ti bastano poche abitudini che, in silenzio, fanno pendere le probabilità dalla tua parte:
- Chiedi le fonti. “Da dove l’hai preso? Dammi link che posso controllare.” Se non riesce a indicare niente di reale, tratta l’affermazione come un’ipotesi.
- Fornisci tu i fatti su cui lavorare. I modelli allucinano molto meno quando rispondono su un documento che fornisci tu piuttosto che a memoria. Incolla il testo, o usa uno strumento che ti permetta di chattare con un PDF così la risposta è ancorata a una fonte reale.
- Verifica con un secondo modello. Fai la stessa domanda a un’AI diversa. L’accordo è rassicurante; il disaccordo è un segnale per scavare più a fondo.
- Usa un modello di ragionamento per le domande difficili. I modelli che pensano prima di rispondere sono in modo misurabile più accurati sulle cose complicate (anche se non perfetti).
- Lasciagli una via d’uscita. Aggiungi “di’ ‘non lo so’ se non sei sicuro” al tuo prompt. Non obbedirà sempre, ma riduce notevolmente le sciocchezze dette con sicurezza.
Vuoi provare subito il trucco della verifica incrociata? Apri la stessa domanda in un paio di modelli e confronta le loro risposte:
In conclusione
Le allucinazioni dell’AI non sono il segno che la tecnologia sia rotta: sono un effetto collaterale di ciò che la rende così utile in primo luogo: una macchina straordinariamente brava a produrre linguaggio fluente e plausibile. La soluzione non è diffidare dell’AI, ma usarla con saggezza: chiedi le fonti, ancorala a documenti reali e non lasciare mai che una sola voce sicura sia il tuo unico testimone.
La rete di sicurezza più facile di tutte è un secondo parere. Fai la tua domanda, poi rifalla a un modello diverso e vedi se concordano: puoi fare esattamente questo, gratis, su Chatday, dove Claude, GPT-5.5, Gemini e altri convivono fianco a fianco.