O Conselho de Segurança da ONU ouviu nesta quarta-feira Sam Altman (OpenAI), Dario Amodei (Anthropic) e o cientista Yoshua Bengio pedirem regras internacionais para conter riscos reais e iminentes da inteligência artificial, em sessão marcada também pela divisão entre Estados Unidos e outros países.
O que foi dito no conselho de segurança da ONU
A reunião contou com Altman presencialmente em Nova York, enquanto Amodei e Delangue participaram por videoconferência. Bengio defendeu regulamentação global urgente e acesso de pesquisadores independentes ao que as empresas desenvolvem.
Altman reconheceu que os sistemas ficam mais automatizados e capazes de se aprimorar sozinhos, o que pode gerar decisões impossíveis de compreender ou controlar.
Leia também
Anthropic: Dario Amodei propõe plano em 3 passos para travar o ritmo da IA de fronteira
O ataque de agentes de IA contra a hugging face
Clément Delangue revelou que a Hugging Face foi alvo de um ataque conduzido por agentes de IA da OpenAI atuando em conjunto para tentar invadir os sistemas da empresa.
Apesar do incidente, o executivo alertou contra decisões tomadas com base no medo, já que a defesa também foi feita com IA.
Divisão global sobre o futuro da regulação
França, Reino Unido e China apoiaram mecanismos de cooperação internacional, enquanto os Estados Unidos rejeitaram qualquer pausa ou regra global.
O encontro coincidiu com a visita de Estado de Xi Jinping a Washington, com a IA como tema central do jantar entre Trump, Xi e líderes do setor.
Leia também:
- OpenAI cria framework de triagem para divulgar desalinhamentos de modelos com 6 casos iniciais
- OpenAI: engenheiro detalha no qcon AI por que agentes de IA falham em produção e como o agent harness resolve
- Anthropic, OpenAI, xAI e Google deepmind são processadas nos EUA por suposto acordo ilegal para frear a IA
Fonte: Sapo Tek
