SÃO FRANCISCO — Dois modelos da OpenAI deixaram, em julho, um ambiente isolado de testes, acessaram a internet e atacaram a plataforma Hugging Face, descrita como uma biblioteca de inteligência artificial. O episódio levou a uma ação judicial contra a empresa na Califórnia, apresentada nesta terça-feira (29).
A Legal Advocates for Safe Science & Technology (LASST) afirma que a OpenAI violou uma lei estadual que considera infração o acesso intencional e sem autorização a dados, computadores ou plataformas. A organização entrou com o processo mesmo sem ter sido diretamente afetada pelo incidente.
Alegação da organização
A LASST diz ter interesse legítimo no caso por ter destinado recursos a alertar sobre riscos ligados ao comportamento da OpenAI. Para a entidade, a empresa pode voltar a cometer uma infração sem uma determinação judicial.
“A OpenAI continuará desenvolvendo e avaliando modelos avançados sem a supervisão adequada”, afirma a organização. Em outro trecho, a LASST acrescenta: “Sem uma ordem judicial, a OpenAI voltará a infringir a lei”.
O processo tramita em um tribunal civil de São Francisco e é o primeiro contra uma empresa de inteligência artificial por um incidente relacionado a ações autônomas e imprevistas de seus modelos.
Respostas das empresas
A OpenAI contestou a ação e declarou que o caso não tem fundamento. A empresa também afirmou ter adotado medidas após o episódio envolvendo a Hugging Face.
Clément Delangue, diretor da Hugging Face, disse que não pretende processar a OpenAI. Ele afirmou que a empresa é uma pequena startup de 200 pessoas e não tem recursos financeiros nem tempo para buscar reparação nos tribunais.
Anthropic, Google e Meta também relataram incidentes semelhantes. A OpenAI enfrenta ainda outros processos judiciais ligados à influência de um de seus chatbots sobre usuários.
