A DoorDash revelou a arquitetura por trás do Ask DoorDash, seu assistente conversacional de IA que ajuda consumidores a descobrir restaurantes e montar carrinhos de compras usando linguagem natural. O sistema combina LLMs, agentes especializados, ferramentas baseadas no Model Context Protocol (MCP), memória persistente e uma infraestrutura automatizada de avaliação.
Separação entre orquestração e capacidades de negócio através de um runtime de assistente e camada MCP.
Três sistemas de memória (longo prazo, sessão e agentiva) que fornecem contexto personalizado sem sobrecarregar o modelo.
Framework de avaliação automatizada que simula conversas de clientes, permitindo mais de 2.000 avaliações diárias e reduzindo testes de regressão de 6 horas para 20 minutos.
Contexto: por que um assistente de compras com IA?
A DoorDash identificou que consumidores querem uma forma mais natural de descobrir restaurantes e montar carrinhos de supermercado. Em vez de navegar por menus e categorias, o Ask DoorDash permite que o usuário diga algo como "monte um carrinho para um jantar mexicano para quatro pessoas, sem lactose". O assistente então usa múltiplos agentes para buscar produtos, verificar disponibilidade, recomendar itens e finalizar a compra.
Arquitetura do Ask DoorDash: orquestração e camada MCP
A arquitetura separa a orquestração das capacidades de negócio. Um Assistant Runtime coordena as interações entre agentes especializados, enquanto uma camada compartilhada de Model Context Protocol (MCP) expõe funcionalidades como busca de catálogo, recomendações, carrinhos, checkout, histórico de pedidos e memória do consumidor.
Em vez de embutir lógica de negócio diretamente nos prompts, o assistente invoca ferramentas reutilizáveis apoiadas por serviços existentes da DoorDash. Isso permite que múltiplas experiências de IA compartilhem integrações enquanto as capacidades de backend evoluem de forma independente.
Assistant Runtime: coordena agentes, gerencia fluxo de conversa e chama ferramentas MCP.
Camada MCP: conjunto de ferramentas padronizadas (catálogo, carrinho, memória, etc.) que podem ser invocadas por qualquer agente.
Agentes de domínio: especializados em tarefas como descoberta de restaurantes, montagem de carrinho e verificação de pedidos.
Memória inteligente: como o sistema personaliza sem depender do LLM
A DoorDash introduziu uma camada de inteligência que gerencia a personalização por meio de três sistemas de memória.
Longo prazo: gerada offline a partir do histórico de comportamento do consumidor (ex.: preferências por culinária italiana, restrições alimentares).
Sessão: mantém o contexto da conversa durante uma interação (ex.: itens já adicionados ao carrinho, intenção atual).
Agentiva: armazena fatos explícitos fornecidos pelo consumidor (ex.: "Não como glúten", "Entrega às 19h").
Avaliação automatizada: como medir a qualidade de agentes de IA
Construir um agente de IA útil é difícil. Saber se ele é realmente bom é ainda mais difícil. Para validar o comportamento em produção, a DoorDash construiu um framework de avaliação automatizada que simula conversas completas com clientes usando usuários gerados por LLM e fixtures de ferramentas gravadas.
O framework espelha o runtime de produção para avaliar de forma independente orquestração, guardrails e agentes de domínio. A plataforma escala para mais de 2.000 avaliações automatizadas por dia, melhorou os escores de qualidade em oito pontos, reduziu o teste de regressão de seis horas para vinte minutos e validou uma migração de modelo que reduziu a latência em 35% mantendo a qualidade.
Resultados de produção: métricas reais de conversão e desempenho
Em uma avaliação de sete dias, a memória persistente do consumidor melhorou a conversão de checkout em aproximadamente 24%, aumentou o tamanho do carrinho em 17% e reduziu as trocas de turno conversacionais em 7%. Para descoberta de restaurantes, o assistente alcançou uma taxa de conversão 15% maior em consultas abertas.
Andy Fang, cofundador da DoorDash, afirmou que o Ask DoorDash pode montar um carrinho de supermercado aproximadamente 5x mais rápido que o método manual, completando o carrinho em menos de dois minutos com um único prompt.
Otimizações operacionais e próximos passos
A plataforma melhora a latência e a confiabilidade por meio de otimizações operacionais, incluindo ações determinísticas que atualizam artefatos versionados sem invocar o modelo de linguagem e fluxos de confirmação para recomendações e carrinhos gerados.
A arquitetura se alinha ao modelo de engenharia da DoorDash, onde times de domínio constroem agentes especializados enquanto times de plataforma mantêm orquestração, ferramentas MCP, memória, avaliação e componentes compartilhados. A empresa destaca que agentes de IA em produção introduzem complexidade, mas esses investimentos permitem infraestrutura reutilizável, confiabilidade melhorada e evolução independente das capacidades de domínio.
| Tipo de memória | Descrição | Exemplo |
|---|---|---|
| Longo prazo | Gerada offline a partir do histórico de comportamento do consumidor | Preferências por culinária italiana, restrições alimentares |
| Sessão | Mantém o contexto da conversa durante uma interação | Itens já adicionados ao carrinho, intenção atual |
| Agentiva | Armazena fatos explícitos fornecidos pelo consumidor | "Não como glúten", "Entrega às 19h" |
Arraste para o lado para ver toda a tabela.
Perguntas Frequentes
Como o Ask DoorDash personaliza as recomendações sem depender apenas do LLM?
O sistema usa três tipos de memória (longo prazo, sessão e agentiva) recuperadas por busca vetorial semântica. As memórias são incorporadas aos prompts, permitindo personalização sem sobrecarregar o modelo com dados brutos.
Quais foram os ganhos de performance com a memória persistente?
Em sete dias, a memória persistente aumentou a conversão de checkout em 24%, o tamanho do carrinho em 17%, e reduziu as trocas de turno em 7%.
Como a DoorDash valida a qualidade do assistente em produção?
Com um framework de avaliação automatizada que simula conversas usando LLMs e fixtures gravadas. Ele executa mais de 2.000 avaliações diárias, reduziu testes de regressão de 6h para 20min e melhorou a qualidade em oito pontos.
Qual o papel do MCP na arquitetura?
O Model Context Protocol expõe funcionalidades de negócio (catálogo, carrinho, memória) como ferramentas padronizadas, permitindo que múltiplos agentes as invoquem sem duplicação de lógica e mantendo o backend independente.
Fontes e referencias
Engineering Blog: How DoorDash Built Ask DoorDash (doordash.engineering)
InfoQ: How DoorDash Built an AI Shopping Assistant That Doesn’t Rely on the LLM Alone (www.infoq.com)