A Anthropic revelou, em seu mais recente relatório de inteligência de ameaças, um aumento de utilizações maliciosas do Claude nos últimos oito meses. O levantamento, noticiado pela Reuters, identifica desde espionagem ligada à Rússia até tentativas de sete laboratórios chineses de replicar as capacidades do modelo.
Entre os laboratórios citados estão gigantes como Alibaba e Xiaomi, além de Moonshot e DeepSeek. A Anthropic afirma ter travado ataques vindos dessas organizações, ampliando uma lista que já incluía acusações feitas em março contra DeepSeek, Moonshot e MiniMax por uso ilegal do Claude.
O que a Anthropic descobriu sobre o uso malicioso do Claude
O relatório descreve um cenário em que criminosos informáticos e grupos apoiados por Estados usam IA não apenas para apoiar tarefas, mas para orquestrar e executar grandes partes de ciberataques. Na leitura da empresa, os humanos assumem cada vez mais um papel de supervisão, em vez de operação direta, nessas iniciativas.
O caso mais grave, segundo a Anthropic, envolve operadores ligados à Alibaba, responsáveis pelo maior ataque de “destilação ilícita” já identificado pela empresa. A técnica consiste em usar respostas de um modelo maior e mais caro para treinar um modelo menor e barato. No caso, a Alibaba teria usado o Claude para melhorar os modelos Qwen.
Foram mais de 151 milhões de interações atribuídas à operação entre maio e julho. O pico chegou a quase três milhões de pedidos por dia, distribuídos por mais de 3.500 contas descritas como fraudulentas. A Alibaba ainda não respondeu aos pedidos de comentário da imprensa internacional.
# publicidade
Atenção: A destilação ilícita permite que concorrentes reproduzam capacidades de modelos caros com custo muito menor, contornando termos de uso. É um risco direto à propriedade intelectual de quem desenvolve IA.
Moonshot e DeepSeek: ataques por encaminhamento de conversas
Já a Moonshot, criadora do chatbot Kimi, e a DeepSeek seguiram uma abordagem diferente. Em vez de pedidos em massa, as empresas encaminhavam alegadamente conversas reais de clientes, por vezes com informação sensível, através do Claude. As respostas obtidas eram então usadas como dados de treino.
Como isso se compara a um ataque tradicional de extração de modelo? Na prática, o fluxo de conversas reais dificulta a detecção porque o tráfego se assemelha ao uso legítimo de usuários finais, misturando volumes menores com contexto aparentemente genuíno.
Espionagem russa com automação em quase todas as fases
Do lado russo, a Anthropic identificou um grupo cujo modo de operação é consistente com o ator conhecido como Midnight Blizzard, designação da Microsoft. O governo dos EUA já ligou o grupo ao serviço de informações externo russo, o SVR.
O grupo terá usado IA em quase todas as fases de operações de phishing, sequestro de redes Wi-Fi de hotéis e tomada de controlo de contas de WhatsApp. Os alvos estavam nos setores governamental, militar e diplomático da Ucrânia.
Um dos pontos mais preocupantes do relatório é o sistema que detectava automaticamente quando o malware era identificado por defesas de segurança. O código era reescrito até voltar a escapar à detecção, num ciclo de evasão contínua sem intervenção humana direta.
“Há um ano, se quisesse otimizar um drone ou o software de um míssil, os modelos simplesmente não seriam tão bons nessa tarefa como são agora.”
A declaração é de Jacob Klein, responsável de inteligência de ameaças da Anthropic, em entrevista à Reuters. Ela resume a preocupação central do relatório: a IA generativa evoluiu rápido o suficiente para se tornar útil em tarefas que antes estavam fora do alcance prático dos modelos.
Novas categorias de atores maliciosos
A Anthropic identificou ainda o que classifica como “novas categorias de atores maliciosos”. Operadores usaram o Claude para desenvolver software relacionado com armamento convencional, incluindo armas de fogo, mísseis, drones armados, bombas e munições, além de sistemas de pontaria e controlo associados. Os incidentes foram registrados na China, na Rússia e no Iémen.
A empresa também diz ter detectado e travado atividade ligada a afiliados do coletivo de cibercrime ShinyHunters, responsável por vários ataques de grande escala seguidos de extorsão. O monitoramento dessas ameaças reforça a importância de segurança de IA em diferentes ambientes para evitar o uso indevido de modelos generativos.
Impacto para o mercado de IA e profissionais de tecnologia
O relatório mostra que a governança de IA precisa ir além de controles básicos de acesso. Ameaças sofisticadas combinam engenharia social, infraestrutura de contas fraudulentas e ciclos automatizados de evasão de detecção.
Para equipes que operam modelos de terceiros, o caso Alibaba evidencia um risco concreto: o uso não autorizado de APIs pode gerar custos elevados e contaminar dados de treino internos. Monitorar padrões de consumo, detectar anomalias em volumes de requisições e revisar permissões de contas se tornam tarefas críticas.
Dica: Implemente limites de taxa por conta, alertas para picos incomuns de interações e revisão periódica de credenciais. Essas medidas dificultam esquemas de destilação em larga escala como o atribuído à Alibaba.
O episódio também reforça a ligação entre IA e segurança ofensiva. O grupo ligado ao SVR não usou o modelo apenas para redigir e-mails, mas para orquestrar phishing, sequestrar redes e reescrever malware automaticamente. Isso eleva o nível de sofisticação de ameaças que já preocupam equipes de resposta a incidentes e ataques zero-day.
O que muda para o profissional de segurança no brasil
Para o profissional de tecnologia brasileiro, o relatório é um alerta sobre como adversários já integram IA em múltiplas etapas de ataque. A automação da evasão de malware, por exemplo, reduz a janela de resposta das defesas tradicionais baseadas em assinatura.
Faz sentido tratar IA como superfície de ataque? Cada vez mais. Modelos expostos via API viram alvos de extração e destilação. Organizações que dependem de fornecedores de IA precisam incluir esses riscos na gestão de risco de fornecedores e em políticas de uso aceitável.
O relatório da Anthropic não apresenta números absolutos sobre todos os ataques, mas a ordem de grandeza do caso Alibaba, com 151 milhões de interações em três meses, demonstra a escala industrial dessas operações. O monitoramento contínuo e a resposta rápida foram determinantes para a empresa conter os abusos.
Principais pontos
Anthropic revelou aumento de usos maliciosos do Claude nos últimos oito meses, com ataques da Rússia e da China.
Alibaba liderou o maior ataque de destilação ilícita já registrado, com 151 milhões de interações entre maio e julho.
Midnight Blizzard, ligado ao SVR russo, usou IA para phishing, sequestro de redes e reescrita automática de malware.
A Anthropic detectou novas categorias de atores usando o Claude para desenvolver software de armamento convencional.
Afiliados do coletivo ShinyHunters também tiveram atividade travada pela empresa, informa o relatório.
Fonte: Sapo Tek
