OpenAI, Anthropic e Google DeepMind trabalham na criação de uma entidade para supervisionar os riscos ligados à inteligência artificial. A estrutura poderia avaliar modelos avançados antes da comercialização, com foco em segurança.
A proposta foi apresentada em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind. Ele sugeriu um órgão semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, entidade de autorregulação do setor. Para Hassabis, o financiamento teria de ser significativo e viria provavelmente, em grande parte, das próprias empresas.
Pressão por regras
As principais empresas de IA pedem há meses ao governo dos Estados Unidos um marco regulatório e uma supervisão maior da segurança dos sistemas. Em agosto, o governo americano iniciou uma avaliação de novos modelos, mas a participação é voluntária e a metodologia não foi divulgada.
O debate ganhou força após alertas de funcionários que deixaram grandes empresas do setor. Jacob Coxon, ex-desenvolvedor da Anthropic, afirmou na semana passada que as empresas de IA estão “brincando com nossas vidas”. Na segunda-feira, Bilal Chughtai, ex-pesquisador do Google DeepMind, disse acreditar que a tecnologia pode matar todos e que talvez falte tempo para evitar esse resultado.
Dario Amodei, diretor-executivo da Anthropic, pediu no sábado uma desaceleração do desenvolvimento da IA. O presidente dos Estados Unidos, Donald Trump, respondeu que não pretende limitar o setor. Trump também afirmou, na segunda-feira, que a possibilidade de a IA dominar o mundo e destruir a humanidade é uma farsa.
Participação externa
A eventual entidade teria especialistas independentes e representantes do ecossistema de código aberto, formado por desenvolvedores de sistemas que podem ser baixados e modificados. A proposta também prevê a análise de modelos das empresas mais avançadas antes que eles cheguem ao mercado.
A criação do órgão provavelmente exigiria uma lei para evitar acusações de conluio e violações das regras de concorrência. Aidan Gomez, diretor da Cohere, defendeu a consulta a diferentes grupos e afirmou: “Não acho que um pequeno grupo de empresas de IA deva definir as regras para todo o mundo”.
O organismo poderia ainda coordenar uma desaceleração do desenvolvimento caso a avaliação dos riscos não acompanhe o avanço tecnológico. O senador democrata Bernie Sanders defendeu normas internacionais obrigatórias, em vez de padrões voluntários da indústria, durante o evento Pro-Human AI, em Washington.
Críticos, especialmente entre os republicanos, acusam as grandes empresas de tentar influenciar a regulação para manter vantagens competitivas. David Sacks, conselheiro de Donald Trump, levantou a possibilidade de um cartel e defendeu que cada empresa desacelere o desenvolvimento por conta própria.
