Por que a IA piora em conversas longas

Os primeiros dez minutos são ótimos. A IA entende o que você quer, as respostas são certeiras e você acha que finalmente achou um parceiro de trabalho de verdade.

Aí, por volta da mensagem trinta, começa a escorregar. Ela esquece uma regra que você definiu no começo. Devolve uma coisa que você já tinha recusado. Você corrige, ela pede desculpas e duas respostas depois comete o mesmo erro.

Não é você perdendo a paciência, e o modelo não está num dia ruim. Conversas longas pioram mesmo, acontece com todos os modelos do mercado e os pesquisadores já mediram o quanto.

O que acontece com as respostas da IA em uma conversa longa

Pesquisadores da Microsoft e da Salesforce fizeram um experimento fácil de descrever. Pegaram tarefas que um modelo normalmente resolve bem, como escrever um trecho de código ou responder a uma pergunta a partir de vários documentos, e pediram de duas maneiras.

Na primeira versão, o pedido inteiro chegava em uma única mensagem completa. Na segunda, exatamente a mesma informação era liberada aos poucos ao longo de vários turnos, do jeito que uma pessoa real fala: um pedido inicial vago, depois um detalhe, depois uma correção, depois outro detalhe.

Mesmo modelo, mesma informação, mesmo objetivo final. A única coisa que mudava era a entrega.

Em mais de 200.000 conversas simuladas e seis tipos de tarefa, todos os modelos de ponta testados se saíram bem pior na versão fatiada. A queda média foi de 39%. O trabalho saiu em maio de 2025 e foi apresentado como palestra oral na ICLR 2026, uma das principais conferências da área, em abril.

O mais interessante é como falha. Os modelos não ficaram menos capazes. Ficaram menos confiáveis, que é um problema diferente e mais chato. Faça a mesma pergunta fatiada dez vezes para o mesmo modelo e a qualidade varia muito mais do que variaria em uma mensagem só.

O motivo é fácil de visualizar. Quando sua primeira mensagem é vaga, o modelo não espera você esclarecer. Ele preenche as lacunas com um palpite, se compromete com ele e começa a produzir uma resposta construída em cima. Se o palpite estava errado, tudo que vem depois herda o erro. Os pesquisadores viram que, quando um modelo pega o caminho errado no começo da conversa, ele costuma não voltar, nem mesmo quando você corrige diretamente.

Por que mais memória não resolve conversas longas

A objeção óbvia é que os modelos já têm memórias enormes. Alguns leem um milhão de palavras de uma vez. Um chat de cinquenta mensagens não deveria ser nada.

Isso é verdade sobre capacidade e falso sobre qualidade, e a distância entre as duas coisas é a história toda. Se quiser o quadro completo de como essa memória funciona, explicamos à parte o que é de fato uma janela de contexto. Em resumo: é a quantidade de texto que o modelo consegue manter à frente enquanto responde.

Manter o texto à frente não é o mesmo que usá-lo bem. Um time de pesquisa da Chroma testou 18 modelos de peso em julho de 2025 e achou o mesmo padrão em todos. A precisão caía conforme a entrada ficava mais longa, e caía bem antes de chegar perto do limite anunciado. Um modelo que tecnicamente aceita um milhão de palavras já pode responder bem pior com cinquenta mil.

Dois detalhes desse trabalho chamam atenção porque contrariam a intuição:

• Um único trecho irrelevante já atrapalha. Acrescentar um só bloco de texto que distraía, não cem, já baixava a precisão de forma mensurável.
• Texto bem organizado pode ser pior que uma pilha embaralhada. Os modelos pontuavam mais alto quando o material ao redor estava misturado do que quando estava arrumado com lógica.

Há ainda um resultado mais antigo e muito replicado que explica boa parte da frustração do dia a dia. Um estudo liderado por Stanford em 2023 mostrou que os modelos acham melhor a informação que está bem no começo ou bem no fim de uma entrada longa, e bem pior a que está no meio. Sua instrução caprichada da mensagem oito agora está enterrada no meio da pilha. É o pior lugar possível.

Junte as duas coisas e o quadro fecha. Sua conversa longa não é um arquivo organizado que a IA consulta. É uma pilha de texto que cresce, onde sua linha importante compete com quarenta mensagens de conversa fiada, becos sem saída e correções que você já deixou para trás.

Os laboratórios de IA sabem, e criaram um contorno

Isso não é reclamação de nicho. As próprias empresas documentam.

A documentação para desenvolvedores da Anthropic descreve um recurso chamado compaction, que resume automaticamente as partes mais antigas de uma conversa quando ela fica longa. O motivo declarado é direto: «conforme a conversa cresce, a qualidade das respostas se degrada», então o material velho é substituído por um resumo curto.

Leia de novo, porque é aí que está a parte útil. O conserto oficial para uma conversa longa é jogar quase tudo fora e ficar com um resumo. Você pode fazer exatamente a mesma coisa na mão, de graça, em qualquer app de chat, sem esperar um recurso fazer isso por você.

O que fazer quando a conversa começa a desandar

Aqui está a tradução prática. Ligue o sintoma ao que está realmente acontecendo.

E cinco hábitos que evitam quase tudo isso desde o começo:

1. Coloque o pedido inteiro na frente. O achado mais forte dessa pesquisa é que uma mensagem completa vence a mesma informação entregue em pedaços. Gaste os trinta segundos extras escrevendo o pedido inteiro.
2. Recomece em vez de discutir. Quando um chat azeda, abrir outro não custa nada. Cole nele só as partes boas.
3. Escreva seu próprio resumo no fim de uma sessão longa. Peça à IA um resumo curto das decisões tomadas, confira, abra um chat novo e cole como primeira mensagem.
4. Mantenha assuntos separados em chats separados. Um fio para o projeto do trabalho, outro para a viagem. Misturar coloca distração nos dois.
5. Troque de modelo quando um travar. Um modelo diferente não faz ideia de que sua última conversa foi mal. Ele chega limpo ao problema e muitas vezes vai discordar do primeiro de um jeito útil, coisa que vimos em por que os modelos de IA dão respostas diferentes.

Esse último é o truque mais barato de todos, e o que as pessoas mais pulam porque só têm um app de IA aberto.

Onde este conselho não resolve

Algumas ressalvas honestas, porque o conserto não serve para tudo.

Recomeçar tem um custo real. Se você passou uma hora ensinando a uma IA o tom da sua newsletter, jogar isso fora dói, e um resumo nunca captura tudo. Nesse caso, guarde um briefing curto e reaproveitável numa nota do computador e cole em cada chat novo. Você fica com a parte útil e larga a bagunça.

A pesquisa também testou os modelos contra usuários simulados seguindo um roteiro, não contra o vaivém bagunçado de uma pessoa real capaz de perceber um desvio e frear. Quem estiver atento e pegar o erro na mensagem três vai se sair melhor do que esses números sugerem. É um argumento para ler as primeiras respostas com cuidado, quando corrigir ainda custa quase nada.

E alguns trabalhos realmente precisam de um fio longo, como percorrer um documento grande que você não consegue resumir sem perder o ponto. Um modelo feito para documentos longos, como o Claude Opus 4.7, lida melhor que a maioria, mas não elimina o problema. Nesses casos, mantenha o fio e repita sua instrução principal a cada poucas mensagens, para ela ficar perto do fim da pilha, que é onde o modelo olha com mais atenção.

Resumindo

Conversas longas com IA não falham porque a máquina cansa. Falham porque o modelo fez uma suposição silenciosa no começo, construiu tudo em cima dela e depois enterrou sua melhor instrução no meio de uma pilha de texto que ele não lê por igual.

Sabendo disso, os hábitos ficam óbvios. Diga tudo de uma vez. Recomece quando desandar. Guarde seu briefing em algum lugar de onde possa colar de novo. E quando um modelo entrar em loop, pare de discutir com ele e passe a mesma pergunta para outro.