Dlaczego AI słabnie w długich rozmowach
Autor Chatday Editorial Team ·
Pierwsze dziesięć minut jest świetne. AI rozumie, o co ci chodzi, odpowiedzi są celne i wydaje ci się, że wreszcie masz prawdziwego partnera do pracy.
Potem, gdzieś koło trzydziestej wiadomości, zaczyna się sypać. Zapomina zasadę, którą ustaliłeś na początku. Podsuwa coś, co już odrzuciłeś. Poprawiasz, model przeprasza, a dwie odpowiedzi później popełnia ten sam błąd.
To nie kwestia twojej cierpliwości ani gorszego dnia modelu. Długie rozmowy naprawdę tracą jakość, dzieje się to każdemu modelowi na rynku, a badacze zdążyli już zmierzyć skalę.
Co dzieje się z odpowiedziami AI w długiej rozmowie
Badacze z Microsoftu i Salesforce przeprowadzili eksperyment, który łatwo opisać. Wzięli zadania, z którymi model normalnie sobie radzi, na przykład napisanie fragmentu kodu albo odpowiedź na pytanie na podstawie kilku dokumentów, i zlecili je na dwa sposoby.
W pierwszej wersji cała prośba przychodziła w jednej pełnej wiadomości. W drugiej dokładnie ta sama informacja była podawana po kawałku przez kilka tur, tak jak mówi prawdziwy człowiek: ogólne pytanie na start, potem szczegół, potem poprawka, potem kolejny szczegół.
Ten sam model, ta sama informacja, ten sam cel. Zmieniał się tylko sposób podania.
W ponad 200 000 symulowanych rozmów i sześciu rodzajach zadań wszystkie testowane czołowe modele wypadły wyraźnie gorzej w wersji rozłożonej na raty. Średni spadek wyniósł 39%. Praca ukazała się w maju 2025 roku, a w kwietniu została przedstawiona jako wystąpienie ustne na ICLR 2026, jednej z głównych konferencji w tej dziedzinie.
Ciekawsze jest to, jak modele zawodzą. Nie stały się mniej zdolne. Stały się mniej przewidywalne, a to inny i bardziej męczący problem. Zadaj temu samemu modelowi to samo rozłożone pytanie dziesięć razy, a rozrzut jakości będzie znacznie większy niż przy jednej wiadomości.
Powód łatwo sobie wyobrazić. Kiedy twoja pierwsza wiadomość jest ogólna, model nie czeka na doprecyzowanie. Po cichu wypełnia luki domysłem, przyjmuje go za pewnik i zaczyna budować na nim odpowiedź. Jeśli domysł był błędny, wszystko dalsze dziedziczy ten błąd. Badacze stwierdzili, że gdy model skręci w złą stronę na początku rozmowy, zwykle już nie wraca na właściwą drogę, nawet gdy poprawiasz go wprost.
Dlaczego większa pamięć nie ratuje długich rozmów
Nasuwa się oczywisty zarzut: modele mają dziś ogromną pamięć. Niektóre czytają milion słów naraz. Czat na pięćdziesiąt wiadomości nie powinien być żadnym wyzwaniem.
To prawda o pojemności i nieprawda o jakości, a cała historia mieści się w tej różnicy. Jeśli chcesz pełny obraz działania tej pamięci, osobno wyjaśniliśmy, czym naprawdę jest okno kontekstu. W skrócie: to ilość tekstu, którą model może mieć przed sobą, kiedy odpowiada.
Mieć tekst przed sobą to nie to samo, co dobrze z niego korzystać. Zespół badawczy Chromy przetestował w lipcu 2025 roku 18 czołowych modeli i u wszystkich znalazł ten sam schemat. Trafność spadała wraz z długością wejścia i spadała na długo przed zbliżeniem się do reklamowanego limitu. Model, który technicznie przyjmuje milion słów, przy pięćdziesięciu tysiącach potrafi już odpowiadać zauważalnie gorzej.
Dwa szczegóły z tej pracy zwracają uwagę, bo przeczą intuicji:
- Wystarczy jeden nieistotny fragment. Dodanie jednego rozpraszającego kawałka tekstu, a nie stu, już mierzalnie obniżało trafność.
- Uporządkowany tekst bywa gorszy niż wymieszana sterta. Modele wypadały lepiej, gdy materiał wokół był pomieszany, niż gdy był logicznie poukładany.
Jest jeszcze starszy, wielokrotnie potwierdzony wynik, który tłumaczy sporą część codziennej frustracji. Badanie prowadzone przez Stanford w 2023 roku pokazało, że modele najlepiej wyłapują informacje umieszczone na samym początku albo na samym końcu długiego wejścia, a znacznie gorzej te w środku. Twoja starannie sformułowana instrukcja z ósmej wiadomości leży teraz w środku sterty. To najgorsze możliwe miejsce.
Zestaw te dwie rzeczy i obraz się układa. Twój długi czat nie jest schludną teczką, do której AI zagląda. To rosnąca sterta tekstu, w której twoja ważna linijka konkuruje z czterdziestoma wiadomościami dygresji, ślepych zaułków i poprawek, o których dawno zapomniałeś.
Laboratoria AI o tym wiedzą i zbudowały obejście
To nie jest marginalne narzekanie. Dokumentują to same firmy.
Dokumentacja dla programistów Anthropic opisuje funkcję o nazwie compaction, która automatycznie streszcza starsze fragmenty rozmowy, gdy ta się wydłuża. Podany powód jest bezpośredni: „w miarę jak rozmowa rośnie, jakość odpowiedzi spada”, więc stary materiał zostaje zastąpiony krótkim streszczeniem.
Przeczytaj to jeszcze raz, bo tu kryje się rzecz użyteczna. Oficjalnym lekarstwem na długą rozmowę jest wyrzucenie jej większości i zachowanie streszczenia. Dokładnie to samo możesz zrobić ręcznie, za darmo, w dowolnej aplikacji do czatu, bez czekania na funkcję, która zrobi to za ciebie.
Co robić, gdy rozmowa zaczyna zbaczać
Oto praktyczne przełożenie. Dopasuj objaw do tego, co dzieje się naprawdę.
| Co zauważasz | Co się dzieje | Co zrobić |
|---|---|---|
| Zapomina zasadę ustaloną na początku | Instrukcja jest zakopana w środku długiego czatu | Powtórz zasadę w najnowszej wiadomości, nie jako przypomnienie, ale jako instrukcję |
| Wraca do propozycji, którą odrzuciłeś | Odrzucona wersja wciąż jest w historii i wciąż liczy się jako kontekst | Otwórz nowy czat i opisz tylko to, czego chcesz, nigdy tego, co wykluczyłeś |
| Odpowiedzi robią się ogólnikowe | Zbyt wiele konkurującego materiału w oknie | Streść stan rzeczy w jednej wiadomości i idź dalej od tego miejsca |
| Powtarza ten sam błąd mimo poprawek | Wcześnie przyjął błędne założenie | Porzuć wątek. Poprawka rzadko waży więcej niż rozmowa, na której leży |
| Z pewnością siebie myli fakty | To inny problem, niezwiązany z długością | Zobacz dlaczego AI z przekonaniem zmyśla |
I pięć nawyków, które zapobiegają większości tych sytuacji:
- Podaj całą prośbę od razu. Najmocniejszy wynik tych badań mówi, że jedna pełna wiadomość bije tę samą informację podaną w kawałkach. Poświęć trzydzieści sekund więcej na napisanie całości.
- Zacznij od nowa zamiast się spierać. Gdy czat schodzi na manowce, otwarcie nowego nic nie kosztuje. Wklej do niego tylko dobre fragmenty.
- Napisz własne podsumowanie po długiej sesji. Poproś AI o krótką notatkę z podjętych decyzji, sprawdź ją, otwórz nowy czat i wklej jako pierwszą wiadomość.
- Trzymaj różne tematy w osobnych czatach. Jeden wątek na projekt służbowy, drugi na wakacje. Mieszanie wprowadza rozpraszacze do obu.
- Zmień model, gdy któryś utknie. Inny model nie ma pojęcia, że poprzednia rozmowa poszła źle. Podchodzi do problemu na czysto i często nie zgodzi się z pierwszym w pożyteczny sposób, o czym pisaliśmy w tekście dlaczego modele AI dają różne odpowiedzi.
To ostatni i najtańszy trik ze wszystkich, a ludzie go pomijają, bo mają otwartą tylko jedną aplikację z AI.
Gdzie ta rada nie wystarcza
Kilka uczciwych zastrzeżeń, bo to rozwiązanie nie działa wszędzie.
Zaczynanie od zera realnie kosztuje. Jeśli spędziłeś godzinę, ucząc AI tonu swojego newslettera, wyrzucenie tego boli, a streszczenie nigdy nie odda wszystkiego. W takim razie trzymaj krótki, wielokrotnego użytku brief w notatce na komputerze i wklejaj go do każdego nowego czatu. Zostaje ci użyteczna część, a bałagan zostaje z tyłu.
Badanie testowało też modele wobec symulowanych użytkowników działających według scenariusza, a nie wobec chaotycznej wymiany zdań z prawdziwą osobą, która potrafi wyłapać zły zwrot i go zatrzymać. Ktoś uważny, kto złapie błąd w trzeciej wiadomości, wypadnie lepiej, niż sugerują te liczby. To argument, żeby uważnie czytać wczesne odpowiedzi, kiedy poprawka nie kosztuje jeszcze prawie nic.
Są też zadania, które naprawdę wymagają jednego długiego wątku, na przykład przechodzenie przez duży dokument, którego nie da się streścić bez utraty sensu. Model stworzony do długich dokumentów, taki jak Claude Opus 4.7, radzi sobie z tym lepiej niż większość, ale nie usuwa problemu. Przy takiej pracy zostaw wątek i powtarzaj główną instrukcję co kilka wiadomości, żeby trzymała się blisko końca sterty, bo tam model patrzy najuważniej.
W skrócie
Długie rozmowy z AI nie psują się dlatego, że maszyna się męczy. Psują się, bo model po cichu coś założył na początku, zbudował na tym całą resztę, a potem zakopał twoją najlepszą instrukcję w środku sterty tekstu, której nie czyta równomiernie.
Kiedy to wiesz, nawyki nasuwają się same. Powiedz wszystko naraz. Zacznij od nowa, gdy rozmowa zbacza. Trzymaj swój brief tam, gdzie możesz go ponownie wkleić. A gdy model zapętli się na dobre, przestań się z nim spierać i przekaż to samo pytanie innemu.