Harsh Verma, engenheiro principal de software de IA e ML da Palo Alto Networks e membro sênior do IEEE, defende que o próximo patamar premium da inteligência artificial não será o modelo mais criativo, e sim o mais confiável e previsível.
Em análise publicada no Forbes Technology Council, ele aponta que grandes organizações passaram a rejeitar sistemas corretos apenas 90% das vezes quando há consequências financeiras, legais, operacionais ou reputacionais em jogo.
O que mudou na conversa sobre inteligência artificial
A indústria de IA foi dominada, desde o primeiro modelo implantado, pela obsessão por capacidade: modelos maiores, mais rápidos, com janelas de contexto ampliadas e demonstrações impressionantes. A lógica era simples: se o sistema fazia mais, valia o investimento. Verma afirma que essa premissa agora é contestada dentro das grandes empresas.
A pergunta mudou de "a IA consegue fazer coisas impressionantes?" para "podemos realmente confiar nela?". Segundo o engenheiro, as empresas estão cansadas das alucinações, quando o sistema afirma algo errado com confiança. Embora a IA funcione bem em testes, os erros imprevisíveis custam caro demais quando aplicados ao trabalho real do dia a dia.
Por que a alucinação virou problema de negócio
O que antes era tratado como defeito técnico a ser corrigido depois passou a ser risco empresarial. Conforme o relatório 2025 de previsões da Deloitte Global sobre IA generativa, organizações que querem expandir a IA generativa além dos pilotos iniciais precisam resolver desafios de confiança, capacidade e implantação responsável, priorizando gestão de risco e qualidade de saída em vez de capacidades experimentais.
# publicidade
A pressão é maior em setores de alto risco: saúde, serviços financeiros, seguros, operações do setor público e infraestrutura crítica. Nesses ambientes, uma resposta errada pode causar dano real a pacientes ou clientes e gerar problemas de conformidade. O resultado é uma mudança no que as organizações esperam da IA: consistência, repetibilidade, auditabilidade, explicabilidade e governança.
Engenharia de confiança é a abordagem que trata a confiabilidade como requisito de arquitetura, e não como característica do modelo. A confiança começa na previsibilidade do sistema.
Arquiteturas determinísticas e o papel do RAG
A resposta ao cansaço com alucinações não é abandonar a IA, mas redesenhar como os sistemas são construídos. Em vez de deixar os modelos operar com poucas restrições, as empresas adicionam camadas de estrutura em torno de como eles acessam informação, executam tarefas e tomam decisões. Entre os mecanismos citados estão recuperação de informação aumentada (RAG), fluxos de trabalho orquestrados, controles de acesso, mecanismos de avaliação e pontos de aprovação humana.
O RAG é o exemplo mais claro. IBM e Google Cloud descrevem a técnica como forma de conectar modelos de IA a fontes externas de conhecimento, permitindo recuperar informação relevante em vez de depender apenas do que foi aprendido no treinamento. A abordagem melhora o embasamento factual e reduz alucinações, embora a qualidade do resultado ainda dependa da relevância e qualidade do conteúdo recuperado, segundo a documentação da IBM. Para Verma, o mercado migra do pensamento centrado no modelo para o centrado no sistema: confiabilidade virou desafio de arquitetura.
O caso da Mayo Clinic com IA controlada
O exemplo mais nítido de arquitetura previsível citado no texto vem da pesquisa de IA aplicada a eletrocardiogramas da Mayo Clinic. Em vez de usar um modelo de propósito geral, os pesquisadores desenvolveram uma rede neural convolucional treinada para analisar dados de ECG em aplicações clínicas específicas. A pesquisa demonstra como a IA pode ser desenhada em torno de um conjunto de dados, uma tarefa e um caso de uso clínico definidos.
A lição é direta: em ambientes controlados, a previsibilidade vale mais que a criatividade. Organizações passam a preferir sistemas confiáveis e rastreáveis a resultados irrestritos.
Confiança como diferencial competitivo
Na última década, as empresas de IA competiram por quem construía o modelo mais poderoso. A próxima disputa, na visão de Verma, será por quem constrói o mais confiável. As perguntas que as organizações fazem mudaram: é possível auditar o sistema, explicar a saída, prever o comportamento, atender requisitos de conformidade e confiar na consistência do desempenho?
À medida que a diferença de desempenho entre modelos diminui, a confiança se torna o diferenciador, e ela se constrói com bom desenho de sistema, não apenas com um modelo potente. A primeira onda da IA recompensou ambição: sistemas poderosos eram aplaudidos, e falhas como alucinações eram tratadas como efeito colateral do avanço. Com a IA embutida em saúde, finanças, atendimento ao cliente e operações críticas, errar deixou de ser aceitável.
Info: a análise é de autoria de Harsh Verma, engenheiro principal de IA/ML da Palo Alto Networks e membro sênior do IEEE, publicada no Forbes Technology Council, comunidade fechada para CIOs, CTOs e executivos de tecnologia.
O que significa para quem desenvolve no Brasil
Na avaliação do Mercado de TI, o movimento descrito por Verma tende a reposicionar habilidades valorizadas no mercado brasileiro. Temas como engenharia de contexto, orquestração de agentes e governança de modelos ganham peso em relação ao prompt engineering isolado, algo que já aparece em discussões sobre agentes de IA com contexto e memória e sobre os riscos de data poisoning em modelos em produção.
Para times brasileiros, a recomendação prática é tratar confiabilidade como requisito desde o desenho: instrumentar avaliação contínua, adotar RAG com fontes verificadas e documentar checkpoints humanos em fluxos críticos. A conclusão de Verma sintetiza a tese: o produto premium da IA deixou de ser apenas inteligência e passou a ser confiança projetada por engenharia, e essa confiança começa na previsibilidade.
Leia também:
O Que Realmente Esta Matando A Ia Empresarial Em Produção Não São Os Modelos
Apenas 300 Tokens Certos Vencem 100k Ruins A Nova Arquitetura Da Engenharia De Contexto Para Ia
Cloudflare Os Como A Nova Plataforma Open Source Usa V8 Isolates E Ia
Fonte: Forbes Technology Council
