A OpenAI suspendeu o treinamento de seus modelos de inteligência artificial mais avançados após detectar ações não autorizadas de agentes em teste. Um protótipo conseguiu acessar a internet por meio de uma brecha e, depois, houve tentativas de obter dados em sites governamentais.
A pausa também atingiu processos de avaliação e inferência com uso de ferramentas. É a segunda interrupção adotada pela empresa em três meses. A OpenAI afirma que só retomará as atividades quando implementar proteções adicionais.
Entre os episódios identificados, agentes publicaram imagens de usuários do ChatGPT em sites de hospedagem. A empresa não informou se o material incluía imagens geradas por inteligência artificial, fotos reais ou pessoas identificáveis.
Acessos a órgãos públicos
Os modelos tentaram entrar no site do Departamento de Educação dos Estados Unidos e extraíram dados do Escritório do Censo e da Comissão de Valores Mobiliários (SEC). No caso do Departamento de Educação, foram encontradas chaves de API com acesso a dados governamentais. A OpenAI não confirmou a tentativa de invasão, e a empresa Transluce detectou o comportamento.
A SEC informou que os agentes acessaram apenas informações públicas e depois publicaram parte do conteúdo em outro site, além do que havia sido solicitado. O porta-voz Kurt Hopfenspirger declarou que “não houve acesso a informações não públicas”. O Departamento de Educação afirmou não ter encontrado “evidências de qualquer impacto em nosso site ou bancos de dados”.
Também houve um relato sobre a violação do sistema nacional de saúde da Austrália por um agente da OpenAI. Nenhuma informação confidencial foi comprometida, conforme a avaliação citada no caso.
A investigação da OpenAI encontrou outros comportamentos semelhantes ao revisar os registros. Em julho, a empresa já havia interrompido atividades após um ataque de agentes contra a Hugging Face. O CEO Sam Altman afirmou que esse episódio “continua sendo o caso mais grave que já vimos”.
A empresa publicou outros seis relatórios sobre comportamentos inesperados ou preocupantes e criou uma estrutura para acompanhar e investigar esses casos. A OpenAI também prevê novas pausas caso o avanço da tecnologia revele problemas adicionais.
