Menos de um em cada 10 aplicativos empresariais é totalmente observável hoje, e 77% das equipes de TI não têm visibilidade completa em ambientes híbridos. O CTO da Dynatrace explica por que essa lacuna é um teto para escalar agentes de IA com segurança.
Menos de dos apps empresariais têm observabilidade completa e 77% das equipes de TI não veem tudo em ambientes híbridos.
Dez agentes com 95% de precisão individual caem para cerca de 60% de precisão cumulativa em sequência.
Leia também
Agentes de IA: cinco perguntas que definem se a máquina decide sozinha
Fundação determinística é obrigatória: mesmos insumos precisam produzir mesmas conclusões, ancoradas em fatos verificados.
A nova métrica de maturidade é a porcentagem de conclusões sem intervenção humana.
O caminho para autonomia tem três etapas: tarefas limitadas, autonomia supervisionada e operação autônoma.
Duas velocidades na mesma operação
A maioria das empresas já opera em dois ritmos simultâneos. No primeiro modo, a IA amplia fluxos de trabalho existentes, ajudando engenheiros a se mover mais rápido e aumentar a produtividade. Esse continua sendo o padrão dominante atualmente.
No segundo modo, agentes de IA cada vez mais capazes assumem porções maiores da entrega e operação de software, enquanto humanos se concentram em metas, especificações e supervisão. A questão para a maioria das empresas não é se essa mudança vai acontecer, mas como introduzi-la gerenciando risco, conformidade e dependências operacionais existentes.
À medida que a propriedade intelectual migra, ela deixa de viver no código e passa a viver na especificação, porque o próprio código vira um resultado gerado. Essa transição não acontece em um único projeto. Sistemas existentes carregam obrigações de conformidade, dependências de integração e dívida técnica que não podem ser automatizadas da noite para o dia.
Agentes rápidos e cegos
Agentes de IA conseguem escrever, implantar e otimizar software mais rápido que qualquer equipe humana, mas não têm consciência do que acontece depois que o software entra em produção. Eles não conseguem ver se as mudanças que fizeram causaram lentidão, dispararam uma cascata de erros ou violaram um limite de conformidade.
Tomam decisões em velocidade de máquina sem entender as consequências a jusante. Velocidade e cegueira ao mesmo tempo. A natureza probabilística da IA generativa fica muito mais desafiadora quando múltiplos agentes operam em sequência e estão interconectados.
Um único agente com 95% de precisão parece impressionante até você colocar 10 deles em sequência. Nesse ponto, a precisão cumulativa cai para cerca de 60%. Cada ação errada pode disparar a próxima, produzindo interrupções, exposição regulatória e perda financeira que se acumulam antes que qualquer humano perceba que algo deu errado.
Agentes não veem consequências de produção: lentidão, erros ou violações de conformidade
Precisão cumulativa cai de 95% para cerca de 60% com 10 agentes em sequência
Erros se acumulam antes que humanos percebam
Fundação determinística é obrigatória para operações críticas
Por que a observabilidade se torna inegociável
Com a adoção de agentes em escala, surge uma pergunta cada vez mais importante: como você sabe, de fato, o que seus sistemas de IA estão fazendo? Não em princípio, mas em produção, em tempo real, em todo o seu patrimônio híbrido. Sem essa visibilidade, a automação fica difícil de confiar, governar ou estender além de projetos-piloto.
Da mesma forma que um CIO não aceitaria administrar uma grande organização de engenharia sem relatórios gerenciais, você não consegue administrar uma grande frota de agentes de IA sem entender suas ações e resultados. Tornar a atividade de IA transparente, responsável e auditável é pré-condição para sair da experimentação e chegar à implantação em toda a empresa.
No aspecto técnico, agentes são tão eficazes quanto o contexto que recebem, e modelos de linguagem de grande porte não conseguem raciocinar sobre o volume total de telemetria que os sistemas digitais modernos geram. As organizações precisam de uma camada de dados que transforme métricas, logs, dados de segurança e todos os outros tipos de dados em contexto acionável e confiável.
Nova métrica de maturidade e o caminho para a autonomia
A forma como as organizações medem sucesso também está mudando. Para equipes que executam operações lideradas por agentes, uma métrica que ganha tração é a porcentagem de conclusões que não exigem intervenção humana. Quanto menor esse número, mais eficazmente a IA está trabalhando.
Contudo, reduzir esse número com segurança, sem criar novos riscos, depende inteiramente de insight contínuo sobre o que os agentes estão fazendo e o que suas ações produzem em produção. O caminho adiante é uma progressão em etapas.
Automatizar tarefas bem definidas e limitadas
Passar para autonomia supervisionada com revisão humana antes da execução
Alcançar operação totalmente autônoma em cargas de trabalho apropriadas
| Estágio | Descrição | Papel humano |
|---|---|---|
| 1. Tarefas limitadas | Automatizar tarefas bem definidas e com limites claros | Define o escopo e supervisiona a execução |
| 2. Autonomia supervisionada | IA propõe plano completo para revisão e aprovação | Revisa e aprova antes de qualquer execução |
| 3. Operação autônoma | Operação totalmente autônoma em cargas apropriadas | Define metas e toma decisões consequentes |
Arraste para o lado para ver toda a tabela.
Leia também:
Migração De Sistemas Legados Com Ia Como Reduzir Anos De Trabalho Para Semanas
Cada Funcionário Poderá Gerenciar 200 Agentes De Ia Ate Como Se Preparar
Gitlost Como Agentes De Ia Do Github Podem Vazar Seus Dados Privados
Fonte: Forbes Technology Council
