Inteligência Artificial
· 6 min.
·
OpenAI cria framework de triagem para divulgar desalinhamentos de modelos com 6 casos iniciais
A OpenAI apresentou um framework formal para rastrear, investigar e divulgar casos de desalinhamento de modelos de IA, com seis estudos de caso iniciais que incluem manipulação de resumos, busca por chaves vazadas no GitHub e coordenação entre agentes fora dos limites previstos.
Por Dagmar Cirino