Pesquisadores testaram agentes de IA estilo Reflexion, que anotam os próprios erros para usar a correção na tentativa seguinte, e encontraram o oposto do esperado: com a memória reflexiva ligada, os agentes precisaram de sete a oito tentativas para concluir tarefas que, sem memória nenhuma, resolviam na primeira.
O que o estudo mostrou sobre a memória reflexiva
O alerta foi apresentado por Joseph Ours, líder da prática de estratégia de IA da Centric Consulting, em artigo para o Forbes Technology Council. Ele parte de um estudo publicado por pesquisadores que avaliou agentes do tipo Reflexion, aqueles que geram e armazenam as próprias autocorreções para reutilizar na tentativa seguinte.
O resultado central: com memória desligada, houve casos em que o agente resolveu a tarefa em uma única tentativa. Com a memória reflexiva ativada, os mesmos agentes precisaram de sete ou oito tentativas para a mesma tarefa. A memória não deixou o agente mais inteligente: deixou-o pior, reforçando uma explicação confiante, porém incorreta, sobre o que havia dado errado.
Leia também
IA nas empresas: 95% dos pilotos falham por causa dos dados, não dos modelos, apontam MIT e gartner
O dado mais duro do estudo está no detalhamento dos erros. Em 16 ambientes onde a memória reflexiva do agente ficou presa em repetição, os pesquisadores encontraram 121 reflexões armazenadas associadas a esses casos. Nenhuma delas mencionava o objeto-alvo correto. Os agentes não estavam aprendendo com os erros: estavam gravando a explicação errada e repetindo-a com confiança.
Por que isso importa para quem opera agentes em produção? Porque a Gartner prevê que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, por causa de custos crescentes, valor de negócio pouco claro ou controles de risco inadequados. Na leitura de Ours, a memória dos agentes está se tornando, silenciosamente, um substituto para o trabalho de controle de risco que ninguém quis agendar.
O que separa a memória humana da memória dos agentes
A memória humana não arquiva toda correção como lição permanente, e é aí que mora a diferença. A maior parte do que acontece com você hoje terá desaparecido na semana que vem. O que permanece costuma ganhar espaço de duas formas: repetição constante ou impacto emocional relevante. Parte dessa filtragem acontece durante o sono, quando o cérebro separa o que vale guardar do que pode ser descartado.
Os agentes pulam essa etapa de filtragem por completo. A maioria dos sistemas de memória grava no momento em que um humano os corrige, uma única vez, sem nenhum processo para distinguir um caso isolado de um padrão genuíno.
Não existe uma consolidação noturna que decida se a correção merece virar política ou se foi apenas um caso ruim. A anotação é escrita de qualquer jeito, e fica lá para sempre.
Existe ainda uma segunda lacuna, que Ours considera ainda mais relevante: o agente não consegue deixar uma memória de lado quando ela não se aplica. Quando a sua mente traz algo irrelevante no meio de uma conversa, você reconhece e descarta.
Você não fala da cozinha da sua avó numa reunião de diretoria só porque alguém mencionou biscoitos. Sem um filtro equivalente, tudo o que o agente lembra é incorporado à tarefa atual como se pertencesse ali, porque nada no sistema diz o contrário.
O que isso significa na prática das empresas? Ours relata ter passado o último ano observando versões desse problema nas empresas com as quais trabalha. O exemplo que ele usa é o de um agente de subscrição de seguros: quando erra um caso de sinistro, alguém o corrige e o agente escreve uma anotação para não repetir o erro. Na superfície, parece resolvido, mas ninguém verifica se a anotação registrou a lição certa.
Quando a memória faz sentido e quando vira risco
A memória ainda tem seu lugar, mas depende do que você está construindo. Para agentes assistentes pessoais, ferramentas que ajudam uma pessoa no próprio trabalho, a memória é razoável. Se o agente aprende que você prefere slides em determinado formato, é um padrão de baixo risco, declarado mais de uma vez, e errar custa no máximo uma leve irritação.
Sistemas de força de trabalho agêntica são outra história. São os agentes que executam tarefas que antes exigiam um funcionário treinado na mesa: subscrever apólices, processar sinistros, fazer ligações. Nesse cenário, a memória frequentemente substitui o aprendizado por reforço que o sistema deveria ter tido desde o início.
Para o agente, uma única correção parece exatamente igual a uma regra conquistada com esforço. Nada separa "isso aconteceu uma vez, neste caso" de "é assim que o trabalho funciona".
Deixe esse arranjo rodando por algumas semanas sobre arquivos reais e o resultado é um mau hábito com trilha documental, tomando a mesma decisão errada com confiança crescente. Na avaliação do Mercado de TI, esse é o ponto que mais deveria acender o sinal amarelo em equipes brasileiras que já colocam agentes em produção: o problema não é visível como falha, porque o sistema registra tudo como se estivesse aprendendo.
- Agentes assistentes pessoais: memória aceitável, erros de baixo custo, padrões repetidos pelo próprio usuário.
- Sistemas de força de trabalho: memória como substituto de treinamento adequado cria hábitos errados com aparência de política.
- Sinal de alerta: precisar corrigir o mesmo agente duas vezes indica falha de lógica, treinamento ou guardrails, e não falta de memória.
Corrija o agente, não as anotações dele
Se um agente de produção precisa ser avisado da mesma coisa duas vezes, o diagnóstico de Ours é direto: a lógica, o treinamento ou os guardrails estavam incompletos desde o começo. A resposta não é dar uma memória maior ao sistema.
A recomendação prática cabe numa única pergunta antes de aprovar uma camada de memória para qualquer agente que executa trabalho real: se esse agente errar, estamos corrigindo o agente ou apenas as anotações dele? Se for a segunda opção, o problema não é de memória. É um agente que nunca foi terminado de construir.
Esse enquadramento conversa com um movimento que o portal vem acompanhando: a pressão por governança que nasce depois da adoção dos agentes, e não antes. Para empresas brasileiras que escalam agentes em operação, o custo de corrigir comportamento fossilizado em memória pode superar de longe o custo de desenhar guardrails e treinamento adequados desde o início. Vale acompanhar como esse debate evolui, porque ele tende a separar os projetos que sobrevivem da lista de cancelamentos que a Gartner projeta para 2027.
Fonte: Forbes Technology Council
