Memória e janela de contexto

Problema

Conversas longas com IA degradam. Não é impressão sua: a janela de contexto é finita, e quanto mais cheia, mais o modelo dilui a atenção entre tudo que já foi dito. Instruções do início perdem força, detalhes somem no meio, e a qualidade cai justamente quando você mais investiu na conversa.

O custo disso já tratei em economia de tokens. Aqui o foco é o outro lado: a qualidade. E a pergunta operacional do dia a dia: quando abandonar o chat e como não perder o que foi construído nele.

Técnica

Sinais de contexto saturado. Três aparecem com frequência:

1. A IA esquece uma instrução que você deu no começo (formato, tom, restrição) e você precisa repetir.
2. Ela volta a cometer um erro que você já corrigiu na mesma conversa.
3. As respostas ficam genéricas ou misturam assuntos de partes diferentes do chat.

Qualquer um deles é o sinal de trocar. Repetir a instrução pela terceira vez custa mais que recomeçar.

A rotina de troca. Antes de fechar o chat, peça um handoff: “resume o que decidimos, o que falta e as restrições que estabeleci, em um bloco que eu possa colar num chat novo”. Cole no chat seguinte e siga de onde parou. Dois minutos que preservam horas de conversa.

Persistir entre sessões. Handoff resolve a troca de chat; arquivos de memória resolvem a troca de dia. Decisão, preferência ou fato que vai importar semana que vem não pode morar no histórico de um chat. Vai pro arquivo de memória que o agente lê no início de toda sessão. A estrutura completa está em camadas de memória; o hábito que importa aqui é um só: terminou uma sessão relevante, pergunte “o que daqui eu vou precisar de novo?” e mande salvar.

Como aplicar

1. Tarefa nova, chat novo. Sempre.
2. Notou um dos três sinais: handoff e recomeço.
3. Fim de sessão com decisões: salve no arquivo de memória antes de fechar.

O histórico de chat é descartável. O que você aprendeu nele não precisa ser.