Apenas 300 tokens certos vencem 100k ruins: a nova arquitetura da engenharia de contexto para IA

calendar_today
schedule 5 min
Apenas 300 tokens certos vencem 100k ruins: a nova arquitetura da engenharia de contexto para IA

No QCon, Patrick Debois e Baruch Sadogursky revelam por que agentes de codificação falham com prompts sobrecarregados e apresentam a Engenharia de Contexto como a solução definitiva.

No desenvolvimento de software moderno assistido por Inteligência Artificial, o tamanho do contexto tornou-se uma métrica de vaidade. No entanto, enfiar bases de conhecimento inteiras em prompts gigantescos está fazendo com que agentes inteligentes falhem miseravelmente por excesso de ruído.

  • O excesso de contexto (prompt stuffing) confunde agentes de IA e gera respostas inconsistentes ou de baixa qualidade.

  • A divisão de diretrizes em habilidades carregadas tardiamente (lazy-loaded skills) mantém as sessões limpas e eficientes.

  • Bancos de memória externos bem estruturados e controlados via código evitam que decisões arquiteturais sejam apagadas por processos automatizados de compressão.

  • O uso de testes estruturados baseados no paradigma LLM-as-a-judge garante saltos de precisão de 35% para até 98% em fluxos de trabalho complexos.

O paradoxo da janela de contexto gigante

A evolução recente das ferramentas de IA nos deu janelas de contexto massivas, suportando centenas de milhares de tokens de uma só vez. No entanto, alimentar os modelos com bases de dados completas, logs intermináveis e toda a documentação disponível, método apelidado de 'stuffed prompt' (prompt entupido), tem o efeito oposto ao desejado.

Os agentes de IA se perdem no meio do excesso de informações, priorizando instruções conflitantes ou ignorando diretrizes críticas. Além disso, as interações com LLMs são inerentemente sem estado (stateless): a cada nova mensagem, toda a pilha de conversação e arquivos anexados é reenviada à API, gerando latência absurda e custos elevados.

Para contornar esse gargalo, Sadogursky e Debois advogam pela transição da mera 'engenharia de prompt' (focada na instrução ideal e única) para a 'engenharia de contexto', que foca na arquitetura de entrega da informação.

1. do prompt entupido para os lazy-loaded skills

O primeiro grande antipadrão combatido é o arquivo de configuração de contexto único (como o CLAUDE.md ou instruções gerais gigantes). Em vez de carregar tudo no início de cada sessão, a solução ideal envolve os chamados 'skills' (habilidades) carregados sob demanda.

Esses 'skills' são descritos textualmente de modo que o agente possa julgar se a tarefa atual exige aquele conhecimento específico. Se a tarefa é sobre o banco de dados, o skill correspondente é injetado dinamicamente; se o foco muda para o front-end, as diretrizes de backend são omitidas.

Essa ativação semântica impede que convenções conflitantes de diferentes partes do sistema fiquem simultaneamente ativas na cabeça do modelo.

  • Carregamento tardio baseado no escopo e na descrição da tarefa.

  • Isolamento de convenções para evitar alucinações e erros de compilação.

  • Tratamento de skills como artefatos de software reutilizáveis e versionados em vez de meras anotações em markdown.

2. o erro do RAG genérico e a vantagem dos artefatos de contexto

Muitas arquiteturas dependem exclusivamente de RAG (Geração Aumentada de Recuperação) semântico por vetor para buscar documentação. No entanto, o RAG clássico busca por 'similaridade' e não necessariamente por 'relevância lógica', o que frequentemente faz o agente resgatar versões antigas de APIs ou trechos de código desconexos.

A alternativa proposta é agrupar a documentação estática, regras de linting rígidas e boas práticas específicas de bibliotecas em blocos testados chamados 'Context Artifacts' (Artefatos de Contexto).

Ao expor esses artefatos através do Model Context Protocol (MCP) com regras rigorosas (por exemplo, exigindo o uso exclusivo de versões assíncronas ou desencorajando depreciações), o agente ganha precisão determinística.

3. o agente peixe-dourado: como gerenciar memória SEM perder o foco

Agentes autônomos modernos tentam resolver a perda de memória compactando conversas ou criando diários ocultos de decisões. Essa compactação, contudo, funciona como uma caixa preta sobre a qual o desenvolvedor não possui controle, resultando na perda aleatória de decisões arquiteturais importantes.

A Engenharia de Contexto resolve isso externalizando a memória em um diretório explícito e padronizado (por exemplo, `.memory/decisions`).

Instruído por skills de projeto, o próprio agente documenta as decisões tomadas em arquivos de texto locais, estruturados de acordo com um esquema compreensível para humanos e máquinas. Em novas sessões de chat, essa memória local é consumida de forma cirúrgica.

4. validando contextos: da avaliação por 'vibe' ao llm-as-a-judge

A maioria das equipes valida as instruções de IA testando-as manualmente através do 'vibe check' (avaliando se a resposta gerada de imediato parece boa). Para escalar o uso seguro de agentes, contudo, é obrigatório implementar pipelines de avaliação automatizada (Evals).

Utilizando o modelo mental de 'LLM como juiz' (LLM-as-a-judge), scripts de teste utilizam modelos secundários para ler a saída do agente e pontuá-la com base em critérios objetivos de arquitetura.

Nos testes de laboratório conduzidos por Sadogursky e Debois, um agente sem engenharia de contexto adequada obteve uma taxa de sucesso de apenas 35% ao lidar com uma biblioteca personalizada de notificações. Ao estruturar os skills, regras e documentação refinada de forma combinada, o índice de acerto saltou para impressionantes 98%.

Tabela comparativa dos antipadrões clássicos de desenvolvimento com IA e suas respectivas soluções propostas pela Engenharia de Contexto.
Antipadrão de ContextoImpacto no AgenteSolução da Engenharia de Contexto
Prompt Entupido (Stuffed Prompt)Latência alta, custos elevados e conflito de diretrizes.Habilidades Carregadas Tardiamente (Lazy-Loaded Skills).
RAG Genérico (Busca Vetorial Pura)Resgate de documentações obsoletas por similaridade superficial.Artefatos de Contexto Versionados e regras rígidas (MCP).
Agente Peixe-Dourado (Sem memória confiável)Esquecimento de decisões de arquitetura cruciais após limpeza de chat.Bancos de Memória Externos controlados por esquemas locais (.memory/decisions).
Avaliação por Vibe (Vibe Checking)Imprevisibilidade do código gerado e falta de controle em produção.Avaliações automatizadas e sistemáticas com LLM-as-a-judge.

Arraste para o lado para ver toda a tabela.

COMPARTILHAR

Artigos relacionados

Continue explorando conteúdos sobre Inteligência Artificial

MCTI prorroga inscrições para bolsa de IA com remuneração de R$ 12,5 mil
Inteligência Artificial 14/05/2026

MCTI prorroga inscrições para bolsa de IA com remuneração de R$ 12,5 mil

Profissionais com doutorado têm até o dia 30 de junho para se candidatar ao projeto que une o LNCC e o CTI Renato Archer em pesquisa de alto nível.

Deeptech brasileira Tieta.ai ganha prêmio internacional de IA na China
Inteligência Artificial 27/05/2026

Deeptech brasileira Tieta.ai ganha prêmio internacional de IA na China

A startup fluminense Tieta.ai conquistou o 3º lugar no BRICS Industrial Innovation Contest 2026 com solução de IA aplicada à educação.