NVIDIA lançou em beta o Personal AI Router (PAIR), que distribui requisições de inferência entre computadores de uma rede local, com integração a Ollama e LM Studio.
O NVIDIA Personal AI Router no GitHub, Personal AI Router (PAIR), já disponível em beta, distribui automaticamente requisições de inferência entre os computadores de uma rede local, com integração nativa a Ollama e LM Studio, segundo anúncio da própria NVIDIA reproduzido pelo InfoQ.
O que o Personal AI Router faz e por que existe
A NVIDIA descreve um padrão cada vez mais comum em cargas de agentes: um agente principal despacha subtarefas para subagentes, ou vários agentes trabalham em conjunto. Isso cria gargalo na GPU local quando ela recebe requisições demais.
O PAIR resolve distribuindo requisições de inferência individuais pelos sistemas disponíveis, com integração a Ollama e LM Studio sem exigir mudanças na arquitetura ou no harness do agente.
Leia também · há 1 semana
OpenAI cancela lançamento do gpt-6.1 astra após testes apontarem mentiras e ações SEM autorização
O que a demo da Nvidia mostrou na prática
A demo com Hermes Desktop, Ollama e PAIR registrou redução aproximada de 2x no tempo de conclusão ao combinar RTX Spark, DGX Spark e RTX 5090, contra um único laptop RTX Spark.
O que o Pair não faz, segundo a própria Nvidia
A empresa deixa claro que o PAIR não une GPUs nem agrupa VRAM em um acelerador maior. O anúncio gerou confusão nas redes sociais, com usuários entendendo a ferramenta como forma de compartilhar computação com terceiros ou combinar hardware fraco para modelos complexos.
O usuário do Reddit Vegetable-Warthog81 relatou experiência positiva distribuindo inferência por três RTX 5090 rodando Qwen 3.8 27B via Ollama, priorizando estabilidade em tarefas repetitivas.
O que isso significa para quem desenvolve com IA local
Para quem precisa de compartilhamento de computação entre participantes de rede, o InfoQ indica Petals e Mesh LLM como alternativas, sendo que o Mesh LLM divide modelos grandes demais para uma única máquina com o recurso Skippy.
O PAIR está disponível para Windows 11, Linux e macOS, em arquiteturas x64 e arm64, podendo combinar nós com sistemas operacionais diferentes.
NVIDIA Personal AI Router está em beta e distribui inferência entre máquinas da rede local
Integração nativa com Ollama e LM Studio, sem mudanças na arquitetura do agente
Demo com Hermes Desktop registrou redução aproximada de 2x no tempo de conclusão
Compatível com Windows 11, Linux e macOS, em arquiteturas x64 e arm64
| Recurso | NVIDIA PAIR | Petals | Mesh LLM |
|---|---|---|---|
| Objetivo | Distribuir requisições de inferência entre nós locais | Compartilhar computação de GPU entre participantes de rede | Compartilhar computação e dividir modelos grandes |
| Integração local | Ollama e LM Studio | Não informado na fonte | Divisão de modelos via Skippy |
| Distribuição | NVIDIA, beta no GitHub | Comunidade open source | Comunidade open source |
Arraste para o lado para ver toda a tabela.
Leia também:
Fonte: Infoq
Quem escreveu
Dagmar Cirino · Editor-chefe
Especialista em tecnologia, criador de conteúdo e fundador do portal Mercado de TI e Casa do Dev. Analiso tendências de mercado, Inteligência Artificial e carreira, entregando informações precisas, transparentes e acessí...
