Pourquoi l'IA se dégrade dans les longs chats
Par Chatday Editorial Team ·
Les dix premières minutes sont excellentes. L’IA comprend ce que vous voulez, les réponses sont précises, et vous pensez avoir trouvé un vrai partenaire de travail.
Puis, vers le trentième message, ça se dégrade. Elle oublie une règle que vous aviez posée au début. Elle vous ressert une chose que vous aviez déjà refusée. Vous corrigez, elle s’excuse, et deux réponses plus tard elle refait la même erreur.
Ce n’est pas vous qui perdez patience, et le modèle n’a pas un mauvais jour. Les longues conversations se dégradent vraiment, cela arrive à tous les modèles du marché, et des chercheurs ont maintenant mesuré à quel point.
Ce qui arrive aux réponses de l’IA dans une longue conversation
Des chercheurs de Microsoft et de Salesforce ont mené une expérience simple à décrire. Ils ont pris des tâches qu’un modèle gère normalement sans peine, comme écrire un peu de code ou répondre à une question à partir de plusieurs documents, et les ont demandées de deux façons.
Dans la première version, toute la demande arrivait en un seul message complet. Dans la seconde, exactement la même information était livrée au compte-gouttes sur plusieurs tours, comme parle une vraie personne : une demande initiale vague, puis un détail, puis une correction, puis un autre détail.
Même modèle, même information, même objectif final. Seule la façon de livrer changeait.
Sur plus de 200 000 conversations simulées et six types de tâches, tous les modèles de pointe testés ont fait nettement moins bien dans la version fractionnée. La baisse moyenne était de 39%. Le travail a été publié en mai 2025 et présenté en session orale à ICLR 2026, l’une des grandes conférences du domaine, en avril.
Le plus intéressant est la façon dont ça échoue. Les modèles ne sont pas devenus moins capables. Ils sont devenus moins fiables, ce qui est un problème différent et plus agaçant. Posez dix fois la même question fractionnée au même modèle et l’écart de qualité est bien plus large qu’avec un message unique.
La raison est facile à se représenter. Quand votre premier message est vague, le modèle n’attend pas d’y voir clair. Il comble discrètement les trous par une supposition, s’y engage, et commence à produire une réponse bâtie dessus. Si la supposition était fausse, tout ce qui suit hérite de l’erreur. Les chercheurs ont constaté qu’une fois un modèle engagé sur la mauvaise voie tôt dans la conversation, il ne retrouve généralement pas son chemin, même quand vous le corrigez directement.
Pourquoi une plus grande mémoire ne règle pas les longs chats
L’objection évidente : les modèles ont désormais des mémoires énormes. Certains lisent un million de mots d’un coup. Un chat de cinquante messages ne devrait rien représenter.
C’est vrai côté capacité et faux côté qualité, et tout l’enjeu tient dans cet écart. Pour le tableau complet du fonctionnement de cette mémoire, nous avons expliqué à part ce qu’est vraiment une fenêtre de contexte. En résumé : c’est la quantité de texte que le modèle peut garder sous les yeux pendant qu’il répond.
Garder du texte sous les yeux n’est pas la même chose que bien s’en servir. Une équipe de recherche de Chroma a testé 18 modèles majeurs en juillet 2025 et a trouvé le même schéma partout. La précision baissait à mesure que l’entrée s’allongeait, et elle baissait bien avant d’approcher la limite annoncée. Un modèle qui accepte techniquement un million de mots peut déjà être nettement moins bon à cinquante mille.
Deux détails de ce travail ressortent parce qu’ils vont contre l’intuition :
- Un seul passage hors sujet suffit à nuire. Ajouter un seul bloc de texte parasite, pas cent, faisait déjà baisser la précision de manière mesurable.
- Un texte bien rangé peut être pire qu’un tas mélangé. Les modèles obtenaient de meilleurs scores quand le matériau autour était mélangé plutôt qu’organisé logiquement.
Il y a aussi un résultat plus ancien et très reproduit qui explique beaucoup de frustrations quotidiennes. Une étude menée par Stanford en 2023 a montré que les modèles repèrent le mieux l’information placée tout au début ou tout à la fin d’une longue entrée, et bien moins bien celle du milieu. Votre consigne soigneuse du huitième message est maintenant enfouie au milieu du tas. C’est le pire endroit possible.
Mettez les deux ensemble et le tableau devient clair. Votre long chat n’est pas un dossier bien tenu que l’IA consulte. C’est un tas de texte qui grossit, où votre ligne importante rivalise avec quarante messages de bavardage, d’impasses et de corrections que vous avez déjà dépassées.
Les labos d’IA le savent, et ils ont bâti un contournement
Ce n’est pas une plainte marginale. Les entreprises elles-mêmes le documentent.
La documentation développeur d’Anthropic décrit une fonction appelée compaction, qui résume automatiquement les parties anciennes d’une conversation quand elle s’allonge. La raison donnée est directe : « à mesure qu’une conversation grandit, la qualité des réponses se dégrade », donc l’ancien matériau est remplacé par un court résumé.
Relisez cette phrase, car c’est là qu’est l’utile. Le correctif officiel pour une longue conversation consiste à en jeter la plus grande partie et à garder un résumé. Vous pouvez faire exactement pareil à la main, gratuitement, dans n’importe quelle application de chat, sans attendre qu’une fonction le fasse pour vous.
Que faire quand un chat commence à dériver
Voici la traduction pratique. Reliez le symptôme à ce qui se passe réellement.
| Ce que vous remarquez | Ce qui se passe | Que faire |
|---|---|---|
| Elle oublie une règle posée au début | La consigne est enfouie au milieu d’un long chat | Reformulez la règle dans votre message le plus récent, non comme un rappel mais comme la consigne |
| Elle répète une proposition que vous aviez refusée | La version refusée est toujours dans l’historique et compte toujours comme contexte | Ouvrez un nouveau chat et décrivez seulement ce que vous voulez, jamais ce que vous avez écarté |
| Les réponses deviennent plus vagues et génériques | Trop de matière en concurrence dans la fenêtre | Résumez l’état des lieux en un message et repartez de là |
| Elle refait la même erreur après correction | Elle s’est engagée tôt sur une supposition fausse | Abandonnez le fil. Une correction pèse rarement plus lourd que la conversation qui la porte |
| Elle se trompe avec aplomb sur des faits | Autre problème, sans lien avec la longueur | Voyez pourquoi l’IA invente des choses avec assurance |
Et cinq habitudes qui préviennent l’essentiel dès le départ :
- Donnez toute la demande d’entrée. Le résultat le plus solide de cette recherche : un message complet bat la même information livrée en morceaux. Accordez trente secondes de plus à la rédaction de la demande entière.
- Redémarrez au lieu de discuter. Quand un chat part de travers, en ouvrir un nouveau ne coûte rien. Recollez-y seulement les bons morceaux.
- Écrivez votre propre résumé en fin de longue session. Demandez à l’IA un court récapitulatif des décisions prises, vérifiez-le, ouvrez un nouveau chat et collez-le en premier message.
- Gardez les sujets dans des chats séparés. Un fil pour le projet professionnel, un autre pour les vacances. Les mélanger met des distracteurs dans les deux.
- Changez de modèle quand l’un bloque. Un autre modèle ignore totalement que votre dernière conversation s’est mal passée. Il aborde le problème à neuf, et il sera souvent en désaccord avec le premier de façon utile, ce que nous avons regardé dans pourquoi les modèles d’IA donnent des réponses différentes.
Ce dernier point est l’astuce la moins chère de toutes, et celle que les gens sautent parce qu’ils n’ont qu’une seule application d’IA ouverte.
Les limites de ce conseil
Quelques réserves honnêtes, car le remède n’est pas universel.
Repartir de zéro a un coût réel. Si vous avez passé une heure à enseigner à une IA le ton de votre newsletter, jeter tout ça fait mal, et un résumé ne capture jamais tout. Dans ce cas, gardez un bref mémo réutilisable dans une note sur votre ordinateur et collez-le dans chaque nouveau chat. Vous gardez l’utile et vous laissez le fouillis.
L’étude a aussi testé les modèles face à des utilisateurs simulés suivant un script, pas face aux échanges désordonnés d’une vraie personne capable de repérer un dérapage et de l’arrêter. Quelqu’un d’attentif qui attrape l’erreur au troisième message s’en sortira mieux que ne le suggèrent ces chiffres. C’est un argument pour lire les premières réponses avec soin, quand corriger ne coûte encore presque rien.
Et certains travaux exigent vraiment un long fil unique, comme avancer dans un gros document impossible à résumer sans perdre l’essentiel. Un modèle conçu pour les documents longs, comme Claude Opus 4.7, s’en sort mieux que la plupart, mais il ne supprime pas le problème. Pour ces cas, gardez le fil et répétez votre consigne principale tous les quelques messages, pour qu’elle reste près de la fin du tas, là où le modèle regarde le plus attentivement.
En bref
Les longues conversations avec une IA n’échouent pas parce que la machine fatigue. Elles échouent parce que le modèle a fait une supposition silencieuse au début, a tout construit dessus, puis a enfoui votre meilleure consigne au milieu d’un tas de texte qu’il ne lit pas de façon uniforme.
Une fois que vous le savez, les habitudes deviennent évidentes. Dites tout d’un coup. Repartez de zéro quand ça dérive. Gardez votre mémo quelque part où vous pouvez le recoller. Et quand un modèle tourne en boucle, cessez de discuter avec lui et donnez la même question à un autre.