Um relatório de inteligência gerado com inteligência artificial quase levou os Estados Unidos a intercetar um navio chinês no Médio Oriente por engano, segundo a CNN.
- Um chatbot de IA identificou incorretamente a carga de um navio chinês como componentes ligados a programa nuclear
- A operação de interceção foi travada momentos antes, com militares posicionados e aviões já no ar
- O Pentágono acelera a adoção de IA com estratégia do secretário Pete Hegseth, mas sem padrão único de validação
- Fontes alertam que analistas mais jovens tendem a confiar nos modelos sem espírito crítico
- O uso de IA na seleção de alvos preocupa, sem orientação clara sobre supervisão humana
O que aconteceu com o relatório falso
O relatório de inteligência distribuído entre as forças armadas dos EUA na primavera foi montado com recurso a ferramentas de inteligência artificial. O chatbot utilizado pelo analista identificou incorretamente a carga do navio chinês, classificando-a como componentes associados a um programa nuclear. A informação era totalmente falsa.
O documento fez soar alarmes imediatos dentro das forças armadas norte-americanas e as equipas começaram a preparar uma operação de interceção. Só quando os responsáveis decidiram aprofundar a análise do relatório, já com a operação prestes a avançar, descobriram que a origem da informação era uma alucinação de IA.
Integração acelerada de IA no pentágono
O episódio acontece num momento em que o Pentágono e outras agências aceleram a integração de sistemas de IA em quase todas as áreas operacionais. A tecnologia é vista como forma de processar grandes volumes de dados, apoiar decisões no campo de batalha e manter a vantagem estratégica face a adversários como a China.
A estratégia anunciada no início do ano pelo secretário da Defesa, Pete Hegseth, incentiva a experimentação e a disseminação de modelos de IA por milhões de militares e civis, em todos os níveis de classificação. O objetivo é democratizar o acesso a estas ferramentas dentro do Departamento de Defesa. Num movimento paralelo e peculiar, o departamento recorreu ao modelo de cibersegurança Claude Mythos, da Anthropic, ainda não disponível ao público, para detetar e corrigir vulnerabilidades críticas em infraestrutura governamental, mesmo planeando a retirada total dos produtos da empresa que classificou como um risco.
# publicidade
Adoção descentralizada e SEM padrão de validação
Apesar do entusiasmo institucional, a adoção é descentralizada. Diferentes unidades recorrem a ferramentas distintas, sob normas e padrões de segurança que variam de forma significativa. Não existe um método único para validar a informação produzida por estes sistemas, aponta a CNN.
A fiabilidade depende do tipo de modelo e da forma como é utilizada. Na avaliação do Mercado de TI, este é o ponto frágil da estratégia de Hegseth: democratizar ferramentas sem padronizar a verificação cria condições para que erros como o do navio chinês se repitam.
O que o episódio expõe sobre o uso militar de IA
O caso do navio chinês expôs os riscos de confiar em dados mal interpretados ou gerados automaticamente, sobretudo em cenários de guerra, onde decisões precipitadas podem ter consequências irreversíveis. As fontes citadas no artigo referem que os profissionais mais jovens, habituados a estas ferramentas, tendem a confiar nelas sem espírito crítico. Por outro lado, alguns responsáveis mais experientes alertam que a IA permite chegar mais depressa a conclusões erradas.
Há igualmente preocupação com o uso crescente de IA na seleção de alvos, uma área onde erros podem resultar em baixas civis ou incidentes de fogo amigo. Não existe ainda uma orientação clara sobre como garantir que um humano no processo evite estes desfechos negativos.
Leia também:
Fonte: Sapo Tek
