Warum KI in langen Chats schlechter wird
Von Chatday Editorial Team ·
Die ersten zehn Minuten sind großartig. Die KI versteht, was du willst, die Antworten sitzen, und du denkst, du hast endlich einen echten Arbeitspartner gefunden.
Dann, irgendwo um Nachricht dreißig, rutscht es ab. Sie vergisst eine Regel, die du am Anfang gesetzt hast. Sie liefert dir etwas zurück, das du längst abgelehnt hast. Du korrigierst, sie entschuldigt sich, und zwei Antworten später macht sie denselben Fehler noch einmal.
Das liegt nicht an deiner Geduld, und das Modell hat auch keinen schlechten Tag. Lange Gespräche werden tatsächlich schlechter, es passiert jedem Modell auf dem Markt, und Forschende haben inzwischen gemessen, wie stark.
Was in einem langen Gespräch mit den KI-Antworten passiert
Forschende bei Microsoft und Salesforce haben ein Experiment gemacht, das sich leicht beschreiben lässt. Sie nahmen Aufgaben, die ein Modell normalerweise beherrscht, etwa ein Stück Code schreiben oder eine Frage aus mehreren Dokumenten beantworten, und stellten sie auf zwei Arten.
In der ersten Variante kam die ganze Anfrage in einer vollständigen Nachricht. In der zweiten wurde genau dieselbe Information über mehrere Züge verteilt, so wie echte Menschen reden: eine vage erste Bitte, dann ein Detail, dann eine Korrektur, dann noch ein Detail.
Gleiches Modell, gleiche Information, gleiches Ziel. Geändert hat sich nur die Zustellung.
Über mehr als 200.000 simulierte Gespräche und sechs Aufgabentypen hinweg schnitten alle getesteten Spitzenmodelle in der verteilten Variante deutlich schlechter ab. Der Rückgang lag im Schnitt bei 39%. Die Arbeit erschien im Mai 2025 und wurde im April als Vortrag auf der ICLR 2026 präsentiert, einer der wichtigsten Konferenzen des Fachs.
Interessanter ist, wie es schiefgeht. Die Modelle wurden nicht weniger fähig. Sie wurden unzuverlässiger, und das ist ein anderes, lästigeres Problem. Stell demselben Modell zehnmal dieselbe verteilte Frage, und die Qualität schwankt viel stärker als bei einer einzelnen Nachricht.
Der Grund lässt sich gut vorstellen. Wenn deine erste Nachricht vage ist, wartet das Modell nicht auf Klarheit. Es füllt die Lücken still mit einer Annahme, legt sich darauf fest und beginnt, eine Antwort darauf aufzubauen. War die Annahme falsch, erbt alles Folgende den Fehler. Die Forschenden fanden: Sobald ein Modell früh im Gespräch falsch abbiegt, findet es meist nicht zurück, selbst wenn du es direkt korrigierst.
Warum mehr Speicher lange Chats nicht rettet
Der naheliegende Einwand: Modelle haben heute riesige Speicher. Manche lesen eine Million Wörter am Stück. Ein Chat mit fünfzig Nachrichten sollte da nichts sein.
Das stimmt für die Kapazität und stimmt nicht für die Qualität, und in dieser Lücke steckt die ganze Geschichte. Wenn du das komplette Bild dieses Speichers willst: Wir haben getrennt erklärt, was ein Kontextfenster wirklich ist. Kurz gesagt ist es die Textmenge, die das Modell beim Antworten vor sich haben kann.
Text vor sich zu haben ist nicht dasselbe, wie ihn gut zu nutzen. Ein Forschungsteam von Chroma testete im Juli 2025 18 führende Modelle und fand bei allen dasselbe Muster. Die Genauigkeit sank, je länger die Eingabe wurde, und sie sank deutlich vor der beworbenen Grenze. Ein Modell, das technisch eine Million Wörter annimmt, kann bei fünfzigtausend bereits spürbar schlechter sein.
Zwei Details aus dieser Arbeit fallen auf, weil sie der Intuition widersprechen:
- Eine einzige unpassende Passage reicht. Schon ein einzelner ablenkender Textblock, nicht hundert, senkte die Genauigkeit messbar.
- Ordentlich sortierter Text kann schlechter sein als ein gemischter Haufen. Die Modelle schnitten besser ab, wenn das umgebende Material durcheinander war, statt logisch geordnet.
Dazu kommt ein älterer, gut bestätigter Befund, der viel Alltagsfrust erklärt. Eine von Stanford geführte Studie zeigte 2023, dass Modelle Informationen ganz am Anfang oder ganz am Ende einer langen Eingabe am besten finden, und in der Mitte deutlich schlechter. Deine sorgfältige Anweisung aus Nachricht acht liegt jetzt mitten im Haufen. Das ist der denkbar schlechteste Platz.
Zusammengenommen ergibt das ein klares Bild. Dein langer Chat ist keine saubere Akte, die die KI nachschlägt. Er ist ein wachsender Haufen Text, in dem deine wichtige Zeile mit vierzig Nachrichten Beiwerk, Sackgassen und längst überholten Korrekturen konkurriert.
Die KI-Labore wissen das, und haben einen Behelf gebaut
Das ist keine Randbeschwerde. Die Unternehmen dokumentieren es selbst.
Die Entwicklerdokumentation von Anthropic beschreibt eine Funktion namens Compaction, die ältere Teile eines Gesprächs automatisch zusammenfasst, sobald es lang wird. Die Begründung ist unverblümt: „Wenn ein Gespräch wächst, verschlechtert sich die Antwortqualität“, also wird das alte Material durch eine kurze Zusammenfassung ersetzt.
Lies das noch einmal, denn darin steckt das Nützliche. Die offizielle Lösung für ein langes Gespräch besteht darin, das meiste davon wegzuwerfen und eine Zusammenfassung zu behalten. Genau das kannst du von Hand tun, kostenlos, in jeder Chat-App, ohne auf eine Funktion zu warten.
Was tun, wenn ein Chat abdriftet
Hier die praktische Übersetzung. Ordne das Symptom dem zu, was wirklich passiert.
| Was du bemerkst | Was dahintersteckt | Was du tun kannst |
|---|---|---|
| Sie vergisst eine früh gesetzte Regel | Die Anweisung liegt mitten in einem langen Chat | Formuliere die Regel in deiner neuesten Nachricht neu, nicht als Erinnerung, sondern als die Anweisung |
| Sie wiederholt einen Vorschlag, den du abgelehnt hast | Die abgelehnte Version steht noch im Verlauf und zählt weiter als Kontext | Starte einen neuen Chat und beschreibe nur, was du willst, nie das Ausgeschlossene |
| Antworten werden vager und allgemeiner | Zu viel konkurrierendes Material im Fenster | Fasse den Stand in einer Nachricht zusammen und mach von dort weiter |
| Sie macht denselben Fehler trotz Korrektur | Sie hat sich früh auf eine falsche Annahme festgelegt | Verlass den Verlauf. Eine Korrektur wiegt selten schwerer als das Gespräch darunter |
| Sie liegt bei Fakten selbstbewusst daneben | Ein anderes Problem, unabhängig von der Länge | Siehe warum KI selbstbewusst Dinge erfindet |
Und fünf Gewohnheiten, die das meiste davon von vornherein verhindern:
- Stell die ganze Anfrage nach vorn. Der stärkste Befund dieser Forschung ist, dass eine vollständige Nachricht dieselbe Information in Häppchen schlägt. Investiere die dreißig Sekunden extra in die komplette Frage.
- Neu starten statt streiten. Wenn ein Chat kippt, kostet ein neuer nichts. Füg nur die guten Teile ein.
- Schreib am Ende einer langen Sitzung deine eigene Zusammenfassung. Lass dir von der KI ein kurzes Fazit der Entscheidungen geben, prüfe es, öffne einen neuen Chat und setz es als erste Nachricht ein.
- Halte Themen in getrennten Chats. Ein Verlauf für das Arbeitsprojekt, ein anderer für die Reiseplanung. Vermischt bringt beides Ablenkung in beide.
- Wechsle das Modell, wenn eines feststeckt. Ein anderes Modell weiß nichts davon, dass dein letztes Gespräch schieflief. Es kommt frisch an die Sache, und es wird dem ersten oft auf nützliche Weise widersprechen. Das haben wir uns in warum KI-Modelle unterschiedliche Antworten geben angesehen.
Der letzte Punkt ist der billigste Trick überhaupt, und der, den die meisten auslassen, weil sie nur eine KI-App offen haben.
Wo dieser Rat an Grenzen stößt
Ein paar ehrliche Einschränkungen, denn die Lösung passt nicht überall.
Neu anzufangen kostet wirklich etwas. Wenn du eine Stunde damit verbracht hast, einer KI den Ton deines Newsletters beizubringen, tut es weh, das wegzuwerfen, und eine Zusammenfassung fängt nie alles ein. Halte in dem Fall ein kurzes, wiederverwendbares Briefing in einer Notiz auf deinem Rechner und setz es in jeden neuen Chat ein. Du behältst den nützlichen Teil und lässt den Ballast.
Die Studie testete die Modelle außerdem gegen simulierte Nutzer, die einem Skript folgten, nicht gegen das unordentliche Hin und Her eines echten Menschen, der eine falsche Abzweigung erkennt und stoppt. Wer aufmerksam ist und den Fehler in Nachricht drei bemerkt, wird besser abschneiden, als diese Zahlen nahelegen. Das spricht dafür, die frühen Antworten genau zu lesen, solange eine Korrektur noch fast nichts kostet.
Und manche Aufgaben brauchen wirklich einen langen Verlauf, etwa das Durcharbeiten eines großen Dokuments, das sich nicht zusammenfassen lässt, ohne den Punkt zu verlieren. Ein Modell für lange Dokumente wie Claude Opus 4.7 kommt damit besser zurecht als die meisten, beseitigt das Problem aber nicht. Behalte für solche Aufgaben den Verlauf und wiederhole deine Kernanweisung alle paar Nachrichten, damit sie nah am Ende des Haufens bleibt, wo das Modell am genauesten hinsieht.
Kurz gefasst
Lange KI-Gespräche scheitern nicht, weil die Maschine müde wird. Sie scheitern, weil das Modell früh eine stille Annahme getroffen, alles darauf gebaut und dann deine beste Anweisung mitten in einen Haufen Text vergraben hat, den es nicht gleichmäßig liest.
Wenn du das weißt, liegen die Gewohnheiten auf der Hand. Sag alles auf einmal. Fang neu an, wenn es abdriftet. Halte dein Briefing dort, wo du es wieder einfügen kannst. Und wenn ein Modell in einer Schleife hängt, hör auf zu diskutieren und gib dieselbe Frage einem anderen.