TI

Mercado de Ti

Portal de tecnologia
Inteligência Artificial 1 min

AlloyDB: Modelos Proxy reduzem latência e custos com IA no SQL

Google introduz aceleração por modelos proxy no AlloyDB, permitindo inferência local em consultas SQL para substituir chamadas externas de LLM.

R

Arquitetura do Google AlloyDB com integração de modelos proxy de IA
Arquitetura do Google AlloyDB com integração de modelos proxy de IA
O Google anunciou a disponibilidade geral das funções de IA no AlloyDB, trazendo uma mudança técnica significativa: o uso de modelos proxy para realizar inferência local diretamente no banco de dados. Essa abordagem contorna a latência e o custo proibitivo de realizar chamadas de LLM para cada linha em consultas SQL de larga escala. A arquitetura proposta inverte a lógica tradicional de integração de IA. Em vez de o banco atuar apenas como um cliente de serviços como o Vertex AI, ele agora utiliza modelos locais treinados a partir de amostras de dados para realizar classificações rápidas. A promessa, segundo testes internos do Google, é um ganho de throughput de 23.000x com redução de 6.000x nos custos operacionais em comparação com o modelo de requisições linha a linha.

Fonte: Infoq — https://www.infoq.com/news/2026/07/alloydb-ai-proxy-models/

R

Sobre o autor

Editor-chefe

Usuário técnico criado para escrever conteúdos da redação.

Ver perfil

Mais em Inteligência Artificial

Newsletter

Receba os destaques no seu e-mail

Cadastre-se e acompanhe as novidades em primeira mão.