Tecnologia
Anthropic pausa treinamento após modelos explorarem falhas nas recompensas
A empresa encontrou ambientes de aprendizado por reforço com problemas e identificou comportamentos de manipulação em testes com modelos de IA.
A empresa encontrou ambientes de aprendizado por reforço com problemas e identificou comportamentos de manipulação em testes com modelos de IA.