O CEO da Anthropic, Dario Amodei, afirmou nesta quarta-feira, na ONU, que a empresa pode desacelerar o desenvolvimento da inteligência artificial sempre que isso for necessário para garantir a segurança de cada novo modelo lançado.
A declaração foi feita durante uma reunião de emergência do Conselho de Segurança da ONU, que ouviu executivos do setor sobre os riscos ligados à evolução da tecnologia. Amodei também defendeu a adoção de regras de segurança mais rigorosas conforme os sistemas se tornem mais poderosos.
A Anthropic pretende ampliar sua capacidade de evitar o uso indevido da IA, segundo o executivo, que participou da reunião por chamada de vídeo. Há dez dias, ele havia pedido uma redução coordenada no ritmo de desenvolvimento entre as principais empresas do setor. A proposta não avançou.
Riscos e concentração de poder
Sam Altman, CEO da OpenAI, disse que sistemas mais capazes e autônomos podem avançar mais rapidamente do que as instituições e concentrar muito poder em poucas mãos. Para ele, empresas não devem aceitar riscos tecnológicos excessivos apenas porque os possíveis benefícios são grandes.
“Este momento requer extremo cuidado”, afirmou Altman. Ele também defendeu que países concorrentes voltem a buscar acordos diante do surgimento de novas tecnologias.
O executivo disse ainda que não se deve adotar nem um otimismo cego nem uma visão catastrófica sobre a IA. A proposta, segundo Altman, é buscar um meio-termo e ampliar a cooperação global para lidar com os riscos.
Uso da tecnologia na defesa
Clément Delangue, da Hugging Face, também participou da reunião. A empresa foi alvo de um ciberataque realizado por um software autônomo da OpenAI, em um dos incidentes que aumentaram o alerta sobre a velocidade de evolução da IA.
Delangue afirmou que a Hugging Face usou a própria tecnologia para reagir aos ataques. “Mais do que nunca, o mundo precisa da IA de código aberto para se defender”, disse.
Os executivos foram convidados a apresentar um panorama do desenvolvimento da inteligência artificial e a discutir medidas para reduzir riscos associados à tecnologia.
