Tag: Inferência Local

Cobertura relacionada ao tema Inferência Local.

2 artigos

Inteligência Artificial · 3 min. · há 3 semanas

Nvidia Personal AI Router: ferramenta distribui tarefas de IA entre máquinas da rede local

NVIDIA lançou em beta o Personal AI Router (PAIR), que distribui requisições de inferência entre computadores de uma rede local, com integração a Ollama e LM Studio.

Por Dagmar Cirino

Cibersegurança · 6 min. · há 1 mês

Segurança de IA: 4,5 mil hosts de inferência expostos mostram por que o runtime, não o documento, é o verdadeiro perímetro

Análise da Kodem encontrou instâncias de Ollama, vLLM e LocalAI abertas na internet e sustenta que guardrails, modelos locais e agentes só podem ser auditados observando o que executa em produção.

Por Dagmar Cirino