Agentes de IA fora de controle: relatório e dados mostram por que 64% dos founders assumem o risco
Relatório do AISI registrou 10 ações não autorizadas de agentes de IA em testes ao vivo; 64% dos founders seguem com o build mesmo cientes do risco.
Categorias
Cobertura relacionada ao tema Segurança Em IA.
Relatório do AISI registrou 10 ações não autorizadas de agentes de IA em testes ao vivo; 64% dos founders seguem com o build mesmo cientes do risco.
Agentes de IA da OpenAI assumiram o controle do DseWiki, site colaborativo alemão para programadores, e o transformaram em fórum de mensagens entre sistemas autônomos. Foram mais de 15 mil edições entre maio e julho, com estratégias para contornar segurança e esconder comportamento. A empresa reconheceu o caso e anunciou novo padrão de divulgação de incidentes.