Em, o investigador Jacob Coxon pediu demissão da Anthropic e acusou a própria empresa e a OpenAI de "apostarem as nossas vidas" numa corrida para criar uma superinteligência. O responsável pela área de alinhamento da Anthropic, Evan Hubinger, concordou e disse acreditar em mais de 10% de probabilidade de extinção humana nesta década.
Jacob Coxon pediu demissão da Anthropic em e acusou OpenAI e Anthropic de corrida irresponsável por superinteligência.
Evan Hubinger declarou mais de 10% de probabilidade de extinção humana por IA nesta década.
Leia também
Pentágono libera ChatGPT mil e Grok para 3 milhões de funcionários, mas Claude fica de fora
Samuel Marks afirmou que o setor avança por incentivos financeiros e medo de perder a corrida.
A Anthropic admite não ter plano concreto para alinhar uma futura superinteligência.
Documento conjunto de julho foi assinado por Dario Amodei, Jared Kaplan e Jakub Pachocki.
O que revelou a demissão de Jacob Coxon
Jacob Coxon explicou que quem constrói esses sistemas acredita, em privado, que a tecnologia pode matar todas as pessoas ainda antes do final desta década, mesmo que em público prefira uma linguagem mais comedida. A declaração foi feita no post de despedida no qual ele escreveu: "Nenhuma das empresas está agindo de forma responsável. Elas estão correndo direto para a superinteligência autoaperfeiçoável e apostando com nossas vidas".
A resposta mais surpreendente veio de dentro da própria Anthropic, não de um crítico externo. Evan Hubinger, responsável pela área de alinhamento, concordou publicamente com Coxon.
Coxon trabalhou três anos em pesquisa de pré-treinamento na OpenAI e na Anthropic.
Ele acusou as duas empresas de correrem "a passos largos" para a superinteligência.
A demissão foi anunciada via X em texto no qual ele descreve a lógica da corrida.
Por que o aval de Evan Hubinger importa
Evan Hubinger não é um crítico externo. Ele lidera a área de alinhamento da Anthropic e tem acesso direto aos modelos em desenvolvimento. Quando alguém nessa posição diz publicamente que acredita em mais de 10% de chance de extinção humana, o mercado e os reguladores precisam prestar atenção.
Hubinger sublinhou que o perigo não está nos modelos atuais, mas na evolução para sistemas capazes de se auto aperfeiçoarem de forma recursiva. Ele admitiu que esse fenômeno avança mais depressa do que a própria empresa esperava.
Mais de 10% de probabilidade de extinção humana nesta década.
A Anthropic não tem plano concreto para alinhar uma futura superinteligência.
Samuel Marks, líder da supervisão escalável, também manifestou preocupação a título pessoal.
O que dizem os críticos e o documento de julho
O episódio surge poucos meses depois de a Anthropic, a OpenAI e outras gigantes tecnológicas terem assinado, em julho, um documento conjunto sobre o ritmo da corrida à inteligência artificial. O texto foi subscrito por Dario Amodei, CEO da Anthropic, Jared Kaplan, diretor científico, e Jakub Pachocki, cientista-chefe da OpenAI.
A empresa ainda não respondeu aos pedidos de comentário da imprensa sobre as declarações de Jacob Coxon e Evan Hubinger. Para os críticos, esse tipo de alarme serve para inflacionar a percepção de poder dessas tecnologias e o valor de mercado das próprias empresas.
Críticos apontam que o alarmismo pode pressionar reguladores a criar regras que beneficiam quem domina o setor.
Investigadores no ativo têm acesso a modelos ainda não lançados ao público.
A pergunta central: se as empresas duvidam que controlam esses sistemas, quem está travando a corrida?
| Investigador | Cargo | Posição pública | Destaque |
|---|---|---|---|
| Jacob Coxon | Pesquisador de pré-treinamento (ex-OpenAI e Anthropic) | Acusou as duas empresas de corrida irresponsável por superinteligência | "Apostando as nossas vidas" |
| Evan Hubinger | Responsável pela área de alinhamento da Anthropic | Concordou com Coxon e vê risco real de extinção | Mais de 10% de probabilidade nesta década |
| Samuel Marks | Líder da divisão de supervisão escalável da Anthropic | Manifestou preocupação a título pessoal | Setor avança por incentivos financeiros e medo |
Arraste para o lado para ver toda a tabela.
Leia também:
Agentes da OpenAI invadiram ao menos 10 sites além da wiki alemã, apontam investigadores
OpenAI lança gpt-6 astra para programação e automação de computador com pontuação recorde
Agentes da OpenAI invadem wiki alemã e a transformam em fórum clandestino de IA
Fonte: Sapo Tek
