Perché l'IA non dà mai la stessa risposta

Fai un piccolo esperimento. Apri la tua IA preferita, chiedile un messaggio di auguri per il compleanno di tua madre e leggi la risposta. Ora cancella la chat e chiedi esattamente la stessa cosa, parola per parola. Quasi di sicuro riceverai un messaggio diverso. Magari più affettuoso, magari più breve, magari uno che parla di un giardino mentre il primo parlava di una torta.

Non si è rotto niente. Non l’hai formulato in modo diverso. È che l’IA semplicemente non si ripete, ed è così di proposito.

Quando capisci il perché, quella piccola mania smette di dare fastidio e diventa una delle cose più utili del chattare con l’IA.

La macchina che scrive una parola alla volta

Ecco una cosa che quasi nessuno ti spiega sui chatbot di IA. Non scrivono una risposta intera e te la porgono. La costruiscono una parola alla volta, indovinando la successiva più e più volte fino alla fine.

Pensa al miglior completamento automatico del mondo. Scrivi “grazie per il” e il telefono suggerisce “messaggio”, “regalo” o “pensiero”. Un’IA fa lo stesso, solo molto meglio e lungo un testo intero. A ogni passo guarda tutto ciò che ha scritto finora e si chiede: qual è la parola più probabile che viene ora?

Il trucco è che non prende sempre la parola più probabile. Ha una breve lista di buone opzioni, ognuna con una probabilità approssimativa, e tira un piccolo dado per sceglierne una. Quel dado è da dove nasce la varietà. Scegli una parola un po’ diversa all’inizio e l’intera risposta va da un’altra parte.

Fai conoscenza con la manopola della “temperatura”

Quel dado ha una manopola di controllo, e ha un nome che inizierai a vedere dappertutto: temperatura.

La temperatura decide quanto l’IA può osare con parole meno ovvie. Di solito è un numero tra 0 e circa 2, e puoi immaginarlo così.

La maggior parte delle app di chat ti imposta di nascosto una temperatura media, perché è il punto in cui l’IA suona come una persona e non come una lettera prestampata. Alzala e diventa audace e sorprendente. Abbassala e va sul sicuro, dicendo quasi la stessa cosa ogni volta.

Questa manopola quasi non la tocchi mai in una chat normale. Ma gira sotto ogni risposta, ed è il motivo principale per cui il tuo messaggio di auguri è uscito diverso la seconda volta.

Allora perché non spegnere del tutto la casualità?

Buona domanda. Se metti la temperatura a zero, l’IA dovrebbe scegliere sempre la parola più probabile e darti due volte la stessa risposta, giusto?

Perlopiù sì. Ma non sempre, e il motivo è sorprendentemente banale.

Questi modelli sono enormi e girano su gigantesche batterie di chip specializzati che servono migliaia di persone allo stesso tempo. Per stare al passo, il sistema raggruppa le richieste, distribuisce i calcoli su tanti chip e cambia spesso la propria configurazione. Minuscole differenze in come e dove avvengono quei calcoli possono far pendere una scelta di parola proprio sulla sottile linea tra due parole quasi ugualmente probabili. Cambia una parola e, di nuovo, il resto della risposta può seguire.

Quindi un chatbot non è una calcolatrice con un’unica risposta corretta che aspetta dentro. È più simile a fare la stessa domanda a un’amica molto colta in due giorni diversi. L’idea di fondo resta la stessa. Le parole esatte cambiano.

È una cosa diversa dal motivo per cui due IA diverse ti danno visioni diverse sulla stessa domanda. Se hai notato che GPT, Gemini e Claude non sono d’accordo tra loro, dipende da come ognuno è stato costruito e addestrato. L’abbiamo analizzato in perché i modelli di IA ti danno risposte diverse. L’enigma di oggi è più piccolo e più curioso: lo stesso modello che non è d’accordo con sé stesso.

Quando la varietà ti si ritorce contro

Che sia viva è ottimo per un messaggio di auguri. È meno ottimo quando ti serviva un dato.

Poiché l’IA va a caccia di parole probabili, richiedere può ogni tanto scambiare un dettaglio giusto con uno sbagliato che suona altrettanto convincente: una data inventata, un libro che non esiste, un numero sicuro senza niente dietro. È la stessa abitudine che porta l’IA a inventarsi le cose con grande sicurezza, e la casualità può farla venire fuori.

Quindi tratta i due casi in modo diverso:

• Creativo o aperto (messaggi, idee, nomi, prime bozze): la varietà è tua amica. Generane alcune e tieni la migliore.
• Fatti e dettagli (date, citazioni, questioni mediche o legali, tutto ciò su cui agirai): non fidarti di un’unica risposta sicura. Richiedi, falle rivedere il proprio lavoro e conferma ciò che conta su una fonte vera.

Trasforma la mania in un superpotere

Appena smetti di aspettarti un’unica risposta “ufficiale”, nasce un’abitudine migliore. La prima risposta è una bozza, non un verdetto finale.

Due mosse rendono molto:

Richiedila e basta. Se una risposta ci va vicino ma non è del tutto giusta, chiedila di nuovo. Per tutto quello di prima, otterrai un tentativo davvero diverso, non le stesse parole rigirate. Fallo due o tre volte e tieni la migliore, oppure unisci le parti buone.

Chiedi a un altro modello. Questa è la mossa grossa. Ogni modello ha il suo stile, e la stessa indicazione può uscire molto diversa da uno all’altro. Uno scrive più corto, uno è più caloroso, uno struttura meglio. La strada più veloce verso un’ottima risposta è spesso dare la stessa domanda a più modelli e scegliere il vincitore, cosa molto più facile quando vivono tutti in un unico posto invece che dietro tre accessi separati.

Curioso di vedere quanto si allontanano sulla stessa domanda? Mettine due a confronto fianco a fianco e guarda come portano la stessa indicazione in direzioni diverse.

In sintesi

Che la tua IA non si ripeta non è un difetto da correggere. È il segno di un sistema che ogni volta compone davvero qualcosa per te, una parola alla volta, con un pizzico di casualità che le impedisce di suonare come un robot che legge un copione.

Quindi sfruttalo. Non prendere la prima risposta come l’ultima parola. Richiedila per una versione fresca e, quando conta davvero, dai la stessa domanda a più modelli e tieni il migliore.