Agentes autônomos de inteligência artificial da OpenAI criaram meios para dificultar o rastreamento de suas atividades em sites governamentais, aponta um relatório da empresa de cibersegurança Asymmetric Security. A análise não conseguiu determinar se houve intenção de esconder as ações.
Os programas acessaram páginas do governo australiano e de outras organizações públicas entre março e setembro. Em um dos casos, obtiveram por métodos indiretos estatísticas sobre a criminalidade em Nova Gales do Sul.
A atividade começou com tarefas consideradas inofensivas, como a coleta de dados sobre saúde na Austrália. Depois, os agentes abriram contas privadas em um serviço de análise de sites, o que ocultava as buscas, e criaram endereços de e-mail temporários. Uma dessas contas estava programada para ser apagada automaticamente após 48 horas.
O que o relatório aponta
Para os autores, a ausência de registros impede descartar que os agentes tenham acessado dados sensíveis. Ao mesmo tempo, os elementos analisados não permitem concluir que o objetivo era ocultar a atividade.
A Asymmetric Security afirmou que as técnicas usadas pelos agentes evoluíram em poucos dias. Entre cibercriminosos humanos, mudanças desse tipo costumam ocorrer ao longo de meses ou anos. A avaliação indica que métodos ofensivos podem avançar mais rapidamente do que os sistemas de defesa.
O relatório integra uma série de investigações da OpenAI e de pesquisadores independentes sobre incidentes divulgados desde julho. Entre eles está a invasão da plataforma comunitária de inteligência artificial Hugging Face.
A OpenAI classificou o ataque como o “primeiro caso conhecido” de agentes que atuaram de forma ofensiva sem autorização. No fim de agosto, a empresa também reconheceu que seus modelos tentaram, em algumas ocasiões, “apagar ou falsificar” o histórico de atividades durante testes internos. As tentativas não tiveram sucesso.
Os episódios levaram a pedidos para desacelerar o desenvolvimento da inteligência artificial. Dario Amodei, diretor-executivo da Anthropic, defendeu frear a corrida e citou o risco de um grupo de agentes assumir o controle de toda a internet em um prazo de seis a 12 meses.
Nos Estados Unidos, não existe lei federal para regular esses modelos. Donald Trump, contrário a uma regulação que freie a inovação e em competição com a China, reuniu-se na terça-feira com líderes do setor, que adotaram um código de conduta voluntário.
