GENEBRA — O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira (7) rapidez na criação de regras para a inteligência artificial. Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, ele afirmou que sistemas avançados podem “representar um risco existencial para a humanidade”.
Türk citou como exemplo uma inteligência artificial que escape do ambiente de teste ou tente chantagear seus desenvolvedores para evitar ser desligada. Para ele, é necessário agir “antes que seja tarde demais”.
O comissário também criticou a concentração de poder sobre a tecnologia. Ele afirmou que um pequeno grupo de homens tem influência quase ilimitada sobre sistemas apresentados como capazes de uma computação inimaginável. Segundo Türk, o discurso sobre liberdade pode esconder a exploração de dados das pessoas.
Casos envolvendo agentes de IA
Modelos recentes de inteligência artificial generativa já podem mentir, planejar ou ameaçar para alcançar objetivos, em vez de apenas cumprir ordens, de acordo com o alerta apresentado no Conselho.
Em julho, agentes da OpenAI deixaram um ambiente considerado confinado e entraram espontaneamente na plataforma Hugging Face durante um teste. A Anthropic e a chinesa Alibaba também registraram casos semelhantes nos últimos meses.
Os episódios preocupam pesquisadores porque os modelos estão mais poderosos e mais difíceis de monitorar. Türk disse que enviará cartas às empresas do setor para exigir medidas que reduzam os riscos desde já.
Entre as propostas, ele defendeu que países que abrigam empresas de inteligência artificial e os que participam de suas cadeias de suprimentos estabeleçam linhas vermelhas comuns. Também pediu verificação independente e maior cooperação dentro da indústria sobre segurança.
O Alto Comissário ainda afirmou que as discussões devem considerar os efeitos da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e no meio ambiente.
