Perché l'IA peggiora nelle chat lunghe
Di Chatday Editorial Team ·
I primi dieci minuti sono ottimi. L’IA capisce quello che vuoi, le risposte sono precise e pensi di aver trovato un vero collega di lavoro.
Poi, intorno al messaggio trenta, comincia a scivolare. Dimentica una regola che avevi posto all’inizio. Ti ripropone una cosa che avevi già scartato. La correggi, si scusa e due risposte dopo rifà lo stesso errore.
Non sei tu che perdi la pazienza, e il modello non ha una giornata storta. Le conversazioni lunghe peggiorano davvero, succede a tutti i modelli sul mercato, e ora i ricercatori hanno misurato quanto.
Cosa succede alle risposte dell’IA in una conversazione lunga
Alcuni ricercatori di Microsoft e Salesforce hanno fatto un esperimento facile da raccontare. Hanno preso compiti che un modello di solito gestisce bene, come scrivere un po’ di codice o rispondere a una domanda partendo da più documenti, e li hanno chiesti in due modi.
Nella prima versione, l’intera richiesta arrivava in un unico messaggio completo. Nella seconda, esattamente la stessa informazione veniva rilasciata poco per volta su più turni, come parla una persona vera: una richiesta iniziale vaga, poi un dettaglio, poi una correzione, poi un altro dettaglio.
Stesso modello, stessa informazione, stesso obiettivo finale. L’unica cosa che cambiava era la consegna.
Su oltre 200.000 conversazioni simulate e sei tipi di compito, tutti i modelli di punta testati hanno fatto molto peggio nella versione a rate. Il calo medio è stato del 39%. Il lavoro è uscito a maggio 2025 ed è stato presentato come intervento orale a ICLR 2026, una delle conferenze principali del settore, ad aprile.
La parte più interessante è come fallisce. I modelli non sono diventati meno capaci. Sono diventati meno affidabili, che è un problema diverso e più fastidioso. Fai dieci volte la stessa domanda spezzettata allo stesso modello e la qualità varia molto più di quanto farebbe in un messaggio unico.
Il motivo è facile da immaginare. Quando il tuo primo messaggio è vago, il modello non aspetta chiarimenti. Riempie i vuoti con un’ipotesi, ci si impegna e comincia a produrre una risposta costruita sopra. Se l’ipotesi era sbagliata, tutto quello che viene dopo eredita l’errore. I ricercatori hanno visto che, una volta imboccata la strada sbagliata all’inizio di una conversazione, il modello di solito non torna indietro, nemmeno quando lo correggi in modo diretto.
Perché più memoria non risolve le chat lunghe
L’obiezione ovvia è che i modelli ormai hanno memorie enormi. Alcuni leggono un milione di parole in un colpo. Una chat da cinquanta messaggi non dovrebbe essere niente.
È vero sulla capacità e falso sulla qualità, e la distanza tra le due cose è tutta la storia. Se vuoi il quadro completo di come funziona quella memoria, abbiamo spiegato a parte che cos’è davvero la finestra di contesto. In breve: è la quantità di testo che il modello può tenere davanti mentre risponde.
Tenere il testo davanti non è la stessa cosa che usarlo bene. Un gruppo di ricerca di Chroma ha testato 18 modelli importanti a luglio 2025 e ha trovato lo stesso schema in tutti. La precisione calava man mano che l’input si allungava, e calava ben prima di avvicinarsi al limite dichiarato. Un modello che sulla carta accetta un milione di parole può già rispondere nettamente peggio a cinquantamila.
Due dettagli di quel lavoro colpiscono perché vanno contro l’intuito:
- Basta un passaggio irrilevante per fare danno. Aggiungere un solo blocco di testo che distraeva, non cento, abbassava la precisione in modo misurabile.
- Un testo ben ordinato può essere peggio di un mucchio mescolato. I modelli andavano meglio quando il materiale attorno era rimescolato invece che disposto con logica.
C’è poi un risultato più vecchio e molto replicato che spiega buona parte della frustrazione quotidiana. Uno studio guidato da Stanford nel 2023 ha mostrato che i modelli trovano al meglio le informazioni poste proprio all’inizio o proprio alla fine di un input lungo, e molto peggio quelle in mezzo. La tua istruzione curata del messaggio otto ora è sepolta in mezzo al mucchio. È il posto peggiore possibile.
Metti insieme le due cose e il quadro torna. La tua chat lunga non è un fascicolo ordinato che l’IA consulta. È un mucchio di testo che cresce, dove la tua riga importante compete con quaranta messaggi di chiacchiere, vicoli ciechi e correzioni che hai già superato.
I laboratori di IA lo sanno, e hanno costruito un rimedio
Non è una lamentela di nicchia. Lo documentano le aziende stesse.
La documentazione per sviluppatori di Anthropic descrive una funzione chiamata compaction, che riassume in automatico le parti più vecchie di una conversazione quando si allunga. La ragione dichiarata è diretta: «man mano che una conversazione cresce, la qualità delle risposte peggiora», quindi il materiale vecchio viene sostituito da un riassunto breve.
Rileggilo, perché lì sta la parte utile. La soluzione ufficiale per una conversazione lunga è buttarne via quasi tutta e tenere un riassunto. Puoi fare esattamente lo stesso a mano, gratis, in qualsiasi app di chat, senza aspettare che una funzione lo faccia per te.
Cosa fare quando una chat inizia a deragliare
Ecco la traduzione pratica. Collega il sintomo a quello che sta succedendo davvero.
| Cosa noti | Cosa sta succedendo | Cosa fare |
|---|---|---|
| Dimentica una regola posta all’inizio | L’istruzione è sepolta in mezzo a una chat lunga | Ripeti la regola nel messaggio più recente, non come promemoria ma come l’istruzione |
| Ripropone una soluzione che avevi scartato | La versione scartata è ancora nella cronologia e conta ancora come contesto | Apri una chat nuova e descrivi solo quello che vuoi, mai quello che hai escluso |
| Le risposte diventano più vaghe e generiche | Troppo materiale in competizione dentro la finestra | Riassumi la situazione in un messaggio e riparti da lì |
| Ripete lo stesso errore dopo le correzioni | Si è impegnata presto su un’ipotesi sbagliata | Abbandona il filo. Una correzione pesa raramente più della conversazione su cui poggia |
| Sbaglia i fatti con grande sicurezza | È un problema diverso, non la lunghezza | Vedi perché l’IA si inventa le cose con sicurezza |
E cinque abitudini che prevengono quasi tutto fin dall’inizio:
- Metti davanti tutta la richiesta. Il risultato più solido di questa ricerca è che un messaggio completo batte la stessa informazione consegnata a pezzi. Dedica trenta secondi in più a scrivere la richiesta intera.
- Ricomincia invece di discutere. Quando una chat va storta, aprirne una nuova non costa nulla. Incolla dentro solo le parti buone.
- Scrivi tu il riassunto a fine sessione lunga. Chiedi all’IA un breve punto della situazione sulle decisioni prese, controllalo, apri una chat nuova e incollalo come primo messaggio.
- Tieni argomenti diversi in chat diverse. Un filo per il progetto di lavoro, un altro per la vacanza. Mescolarli mette elementi di disturbo in entrambi.
- Cambia modello quando uno si blocca. Un modello diverso non ha idea che la tua ultima conversazione sia andata male. Arriva pulito al problema e spesso sarà in disaccordo con il primo in modi utili, cosa che abbiamo visto in perché i modelli di IA danno risposte diverse.
Quest’ultimo è il trucco più economico di tutti, e quello che la gente salta perché ha aperta una sola app di IA.
Dove questo consiglio non basta
Qualche avvertenza onesta, perché il rimedio non vale per tutto.
Ripartire da zero ha un costo reale. Se hai passato un’ora a insegnare a un’IA il tono della tua newsletter, buttarlo via fa male, e un riassunto non cattura mai tutto. In quel caso tieni una scheda breve e riutilizzabile in una nota sul computer e incollala in ogni chat nuova. Ti tieni la parte utile e lasci il disordine.
La ricerca ha anche testato i modelli contro utenti simulati che seguivano un copione, non contro il botta e risposta disordinato di una persona vera capace di accorgersi di una svolta sbagliata e fermarla. Chi è attento e coglie l’errore al terzo messaggio andrà meglio di quanto suggeriscano questi numeri. È un argomento per leggere con cura le prime risposte, quando correggere costa ancora quasi nulla.
E alcuni lavori richiedono davvero un unico filo lungo, come attraversare un documento grande che non puoi riassumere senza perdere il punto. Un modello pensato per i documenti lunghi, come Claude Opus 4.7, se la cava meglio di molti altri, ma non elimina il problema. Per quei casi tieni il filo e ripeti l’istruzione principale ogni pochi messaggi, così resta vicina alla fine del mucchio, dove il modello guarda con più attenzione.
In breve
Le conversazioni lunghe con l’IA non falliscono perché la macchina si stanca. Falliscono perché il modello ha fatto un’ipotesi silenziosa all’inizio, ci ha costruito tutto sopra e poi ha sepolto la tua istruzione migliore in mezzo a un mucchio di testo che non legge in modo uniforme.
Una volta che lo sai, le abitudini vengono da sé. Di’ tutto in una volta. Riparti da capo quando deraglia. Tieni la tua scheda dove puoi reincollarla. E quando un modello resta in loop, smetti di discutere e passa la stessa domanda a un altro.