O CEO da Anthropic publicou um ensaio com um plano em três passos para travar o ritmo da IA de fronteira, e a indústria respondeu em poucas horas.
Dario Amodei propôs um plano em três passos para desacelerar os modelos de IA de fronteira
A Anthropic comprometeu-se unilateralmente a dar acesso de nível de funcionário a avaliadores externos
Leia também
Anthropic e OpenAI correm para superinteligência e arriscam humanidade, admitem investigadores
Sam Altman, Elon Musk, Demis Hassabis e Satya Nadella reagiram com apoio, com reservas de David Sacks
A Microsoft vai publicar um código de conduta para os modelos MAI para consulta pública
A China anunciou na cimeira dos BRICS uma comunidade de código aberto de IA, e Trump recebe Xi Jinping a 24 de setembro
O que propõe o plano de três passos de Dario Amodei
Dario Amodei estruturou o plano em três pilares desenhados, segundo o próprio, para não sacrificar a vantagem comercial nem a liderança dos Estados Unidos em IA. O compromisso central já tem efeito prático: a Anthropic assumiu unilateralmente o primeiro ponto do plano.
O primeiro pilar prevê a integração de avaliadores independentes com acesso equivalente ao de um funcionário das empresas, para verificar as práticas de segurança. O segundo passa pela coordenação entre os laboratórios de fronteira dos países democráticos para definir padrões de segurança comuns. O terceiro aponta para uma cooperação mais ampla entre governos democráticos e autoritários na gestão dos riscos da tecnologia.
"Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso vai continuar a parecer rápido, e temos de usar sabiamente o tempo que ganharmos", escreveu Amodei no ensaio partilhado no X.
Mas por que um CEO do setor pediria publicamente para travar a própria indústria? A resposta está no contexto: o ensaio surge dias depois de a Anthropic divulgar um relatório detalhando usos maliciosos dos seus modelos, num momento de pressão regulatória crescente em Washington.
Relatório de ameaças e tensão interna antecederam o ensaio
O relatório de inteligência de ameaças da Anthropic revelou que vários atores usaram os modelos Claude para atividades que vão do desenvolvimento de armas a operações de ciberataque. O documento detalha casos de espionagem ligada à Rússia e tentativas de sete laboratórios chineses, incluindo Alibaba e Xiaomi, de replicar as capacidades do Claude.
A situação agravou-se com a saída do investigador Jacob Coxon, que, ao demitir-se, alertou que a Anthropic e a OpenAI estavam a "jogar com as nossas vidas". Ao mesmo tempo, cresce a contestação pública em torno dos centros de dados que alimentam estes modelos e a pressão em Washington por regulação.
Na avaliação do Mercado de TI, a sequência de eventos sugere que o ensaio de Amodei funciona também como posicionamento estratégico: ao propor regras comuns, a Anthropic assume a dianteira do debate de segurança num momento em que os seus próprios relatórios expõem os riscos dos modelos que vende.
Como reagiram Sam Altman, Elon Musk, Satya Nadella e David Sacks
A reação ao anúncio não tardou e dividiu-se entre apoios e desconfiança. Sam Altman, CEO da OpenAI, manifestou concordância no X, escrevendo que concorda com Amodei sobre a necessidade de "travar o ritmo da fronteira" e que o tema tem estado em cima da mesa internamente nas últimas semanas.
Elon Musk, à frente da xAI, também manifestou apoio, considerando correta a ideia de submeter os modelos a uma revisão entre concorrentes. Vale notar que a SpaceX e a Anthropic assinaram em maio um acordo de computação avaliado em 1,25 mil milhões de dólares mensais até 2029, que Musk já tinha elogiado publicamente na altura.
Demis Hassabis, presidente da Google DeepMind, escreveu que o ensaio de Amodei "aponta na direção certa", ainda que os detalhes precisem de ser trabalhados. Já Alexandr Wang, responsável pela área de IA da Meta, não comentou diretamente o ensaio, mas garantiu que a Meta Superintelligence Labs está a reforçar rapidamente o peso dado ao alinhamento à medida que os seus modelos se tornam mais capazes.
Nem todas as reações foram de aplauso. David Sacks, antigo responsável de Trump para as áreas de IA e criptomoedas e crítico frequente da Anthropic, questionou as motivações da proposta, sugerindo que travar o desenvolvimento é também uma forma de as empresas se protegerem de responsabilidade legal em caso de incidentes graves. Sacks insistiu que Amodei e Altman não precisam da permissão de mais ninguém para avançar desde já.
Satya Nadella, CEO da Microsoft, publicou um longo tópico no X em que saudou a investigação e o ritmo deliberado propostos por Amodei, assim como a ideia dos avaliadores incorporados.
Deixou, contudo, um alerta: o esforço não pode ficar nas mãos de um punhado de empresas, devendo "ter uma representação alargada em todo o ecossistema, países e áreas", incluindo o meio académico.
Nadella defendeu ainda um ecossistema onde convivam modelos abertos e fechados, para que as organizações mantenham controlo sobre o seu conhecimento próprio sem dependerem de um único fornecedor, e anunciou que a Microsoft vai publicar esta semana, para consulta pública, um código de conduta próprio para os seus modelos MAI.
OpenAI adia IPO e Anthropic mantém os seus planos
Em declarações à revista Fortune, Sam Altman confirmou que a OpenAI não vai avançar com a sua tão aguardada oferta pública inicial em 2026, citando as preocupações de segurança em torno da IA. O CEO considerou "inaceitável" sequer admitir um risco de 10% de a tecnologia poder causar a extinção da humanidade.
A Anthropic, por sua vez, mantém os seus próprios planos de IPO, com o processo de marketing junto de investidores a dever arrancar em meados de outubro. O contraste entre os dois calendários mostra que a tese de desaceleração técnica não se traduz, por enquanto, em travões ao ritmo financeiro das empresas.
O dilema chinês e o encontro entre Trump e Xi Jinping
Questionado pela CBS News no programa "Sunday Morning", Dario Amodei admitiu que o maior obstáculo ao seu plano é saber o que fazer se nações rivais, sobretudo a China, não travarem também o desenvolvimento dos seus modelos. "Não sei se é possível, mas devíamos tentar", afirmou o CEO da Anthropic, reconhecendo que os incentivos económicos e militares para continuar a avançar são demasiado fortes para serem ignorados.
Coincidência ou não, o Presidente chinês Xi Jinping discursou nesse mesmo domingo na cimeira dos BRICS, na Índia, defendendo a criação de uma estrutura de governação global da IA baseada no consenso e anunciando que a China vai ajudar a criar uma comunidade de código aberto dedicada à IA dentro do bloco de países.
O tema deverá voltar à mesa a 24 de setembro, quando Donald Trump receber Xi Jinping na Casa Branca, num encontro em que a IA deverá ser um dos assuntos discutidos entre os dois líderes. Para o ecossistema brasileiro, que acompanha de perto o debate sobre soberania digital e modelos abertos, o desfecho dessas conversas pode definir o grau de dependência tecnológica dos próximos anos.
| Líder | Empresa | Reação ao ensaio de Amodei |
|---|---|---|
| Sam Altman | OpenAI | Concordou; tema em discussão interna há semanas |
| Elon Musk | xAI | Apoiou a revisão de modelos entre concorrentes |
| Demis Hassabis | Google DeepMind | "Aponta na direção certa", mas os detalhes precisam de trabalho |
| Alexandr Wang | Meta | Sem comentário direto; Meta reforça o alinhamento |
| Satya Nadella | Microsoft | Apoiou, mas pediu representação alargada do ecossistema |
| David Sacks | Ex-conselheiro de Trump | Criticou; suspeita de proteção contra responsabilidade legal |
Arraste para o lado para ver toda a tabela.
O próximo teste real do plano de Amodei será verificar se outros laboratórios seguem o compromisso de abrir as portas a avaliadores externos. Até lá, vale acompanhar a consulta pública do código de conduta da Microsoft e os sinais que saíam da reunião entre Trump e Xi Jinping em Washington.
Leia também:
Fonte: Sapo Tek
