Agentes de IA criam uma superfície de ataque invisível para firewalls, DLP e CASB. O risco agora viaja por prompts e decisões autônomas, e só 31% das empresas têm política formal de governança.
43% das organizações relatam que mais da metade dos funcionários usa agentes de IA regularmente
dos agentes excedem permissões ocasionalmente; 44% das empresas têm pouca confiança na detecção de ameaças de agentes
Leia também
Cloudflare libera IA para migração de Zero Trust: veja como funciona
69% das empresas suspeitam de uso de ferramentas públicas de IA banidas, segundo o Gartner
91% das organizações não têm como intervir antes de um agente executar ação prejudicial
A resposta passa por detecção de anomalias: avaliar ações específicas, não apenas autenticar identidade
O modelo de segurança quebrou: o risco agora viaja por prompts e não por arquivos
O framework de segurança convencional, adotado pela maioria dos CISOs, parte de uma premissa simples: risco transita por ativos visíveis como arquivos, redes e aplicações. A postura de cibersegurança é sustentada por firewalls que inspecionam tráfego, data loss prevention (DLP) que varre arquivos e e-mails, e cloud access security brokers (CASB) que governam atividades em SaaS.
A IA rompe esse modelo. Ela não se move por arquivo. Move-se por um prompt, pela resposta do modelo e por uma cadeia de ações que o agente tem autoridade para executar sozinho. As fronteiras que o arsenal de segurança precisava defender eram claras. Com a ascensão da IA, deixaram de ser.
O gap entre adoção e governança é o ponto central. Segundo a Cloud Security Alliance, das organizações relataram que agentes ocasionalmente ou às vezes excedem as permissões pretendidas. Outros 44% têm pouca ou nenhuma confiança na capacidade de detectar ameaças específicas de agentes. Apenas 31% adotaram formalmente uma política para governar o uso de agentes de IA.
Essa combinação de adoção massiva, supervisão limitada e detecção fraca cria um cenário com repercussões sérias para o negócio. A segurança de IA, portanto, não pode ser tratada como questão puramente técnica. Precisa subir na escala e virar tema de liderança.
As 4 lacunas onde os controles tradicionais ficam para trás
Quatro lacunas estruturais explicam por que CASB, DLP e firewalls não protegem contra riscos de agentes de IA.
1. uso não sancionado de IA
Muitas organizações têm cronograma de implementação de políticas de governança de IA, depois do qual pretendem liberar ferramentas autorizadas. Os funcionários, porém, não esperam aprovação. Já buscam ferramentas de IA para acelerar tarefas e ganhar eficiência.
Pesquisa do Gartner revela que 69% das empresas já suspeitam ou têm prova concreta de que funcionários usam ferramentas públicas de IA banidas. Imagine um executivo de vendas colando dados de clientes em um chatbot público, ou um desenvolvedor dando a um assistente de codificação acesso ao repositório privado da empresa.
Nenhuma dessas ações é registrada ou aprovada. Com uma em cada cinco organizações sofrendo uma brecha ligada a shadow AI em 2025, segundo o relatório de custo de violação de dados da IBM, não há dúvida de que tais ações elevam o risco.
2. vazamento de dados sensíveis
Desenvolvedores podem compartilhar, conscientemente ou não, chaves de API e credenciais ao conversar com assistentes de codificação. Essa ação pode colocar ambientes de produção em perigo. Ferramentas de IA também podem resumir documentos que contêm informações sensíveis e compartilhá-los adiante sem que os usuários percebam.
Análise do Gartner projetada pelo TechTarget indica que pelo menos 80% da atividade de IA não autorizada virá de violações de políticas internas, não de atacantes externos. O problema é que o DLP tradicional não foi construído para inspecionar a camada de interação com IA.
3. IA falhando de formas que testes não detectam
A IA está entrando em co-pilotos, ferramentas internas e aplicações voltadas ao cliente. Essas aplicações podem acessar sistemas da empresa, usar dados sensíveis e executar ações em nome do usuário. Dois problemas então reaparecem repetidamente.
Em um caso real, o chatbot de uma concessionária de carros foi alvo de brincadeiras: usuários pediram que ele escrevesse código (ele fez) ou concordasse em vender um carro por um dólar (não fez). Mesmo sem ser hackeados, os modelos são treinados para seguir as instruções que recebem.
Prompt injection: o modelo trata o texto de um atacante como instrução confiável.
Jailbreaking: enquadramentos engenhosos fazem o modelo ignorar as próprias regras de segurança.
4. falta de rede de segurança humana
Agentes de IA com poder de agência não esperam a próxima mensagem do usuário. Eles chamam APIs, encadeiam ações e se movem entre sistemas por conta própria para entregar um resultado. O zero trust verifica cada requisição contra uma identidade fixa e um escopo, mas não raciocina sobre a sequência de ações que um agente executa nem sobre o que essa sequência representa em diferentes sistemas.
Um estudo recente da Cybersecurity Insiders constatou que 91% das organizações não têm como intervir antes que um agente de IA execute uma ação prejudicial. A autenticação, sozinha, não resolve esse problema.
O que precisa mudar na prática
Ferramentas tradicionais monitoram dados em repouso ou em trânsito. Mas o risco de IA emerge nas interações, no comportamento do modelo e nas decisões autônomas. CASB e DLP continuam importantes. Ainda assim, é preciso adicionar uma camada de segurança específica para risco de IA.
O primeiro passo é descobrir onde a IA é usada, por quem e com quais dados. Em seguida, construir governança que cubra ferramentas de funcionários, aplicações customizadas e agentes independentes. O ponto crucial é avançar para a detecção de anomalias de IA.
| Lacuna | Risco principal | Controle tradicional falho |
|---|---|---|
| Uso não sancionado de IA | Dados de clientes e código privado expostos em ferramentas públicas | Ausência de logging e aprovação de ferramentas |
| Vazamento de dados sensíveis | Chaves de API e credenciais compartilhadas com assistentes | DLP não inspeciona camada de interação com IA |
| Falhas não detectáveis por testes | Prompt injection e jailbreaking em co-pilotos e apps | Modelos seguem instruções recebidas, mesmo não hackeados |
| Falta de rede de segurança humana | Agentes executam ações prejudiciais sem intervenção | Zero trust não avalia sequência de ações entre sistemas |
Arraste para o lado para ver toda a tabela.
Não basta mais autenticar um agente ou uma sessão. A segurança agora exige avaliar ações específicas como de alto risco para permiti-las ou bloqueá-las. Esse é o caminho para implementar IA com confiança, reduzindo risco e melhorando o retorno sobre o investimento.
Leia também:
Computação Quântica Pesquisadores Criam Qubits Moveis Para Facilitar Escala De Processadores
Segurança Em Agentes De Ia Como O Modelo Do Uber Redefine A Identidade Em Sistemas Autônomos
Gitlost Como Agentes De Ia Do Github Podem Vazar Seus Dados Privados
Fonte: Forbes Technology Council
