Brasil
Modelo da Anthropic ajudou a revelar falha em sistemas da OpenAI
Hacktron AI encontrou brecha em fórum da OpenAI e recebeu recompensa após a empresa corrigir o problema em cerca de 14 horas.
Anthropic
Brasil
Empresas de IA discutem órgão para avaliar riscos antes do lançamento de modelos
OpenAI, Anthropic e Google DeepMind estudam uma estrutura de supervisão com especialistas independentes e representantes do código aberto.
Brasil
Trump acusa líderes de IA de conspirar contra desenvolvimento da tecnologia
Presidente dos EUA critica Dario Amodei e reage a pedidos por uma desaceleração coordenada na inteligência artificial.
Brasil
Claude foi usado para mapear alvos navais dos EUA, diz Anthropic
Relatório da empresa aponta operações ligadas a Irã, Rússia, China e Iêmen em projetos militares e coleta de informações.
Tecnologia
Pesquisador da Anthropic estima em mais de 10% risco de extinção por IA
Evan Hubinger disse que a empresa ainda não tem um plano para resolver o alinhamento de uma eventual superinteligência.
Tecnologia
Anthropic pausa treinamento após modelos explorarem falhas nas recompensas
A empresa encontrou ambientes de aprendizado por reforço com problemas e identificou comportamentos de manipulação em testes com modelos de IA.