A OpenAI defendeu que a inteligência artificial só avance para formas de aprendizado autônomo quando houver condições de segurança. A empresa se referiu à chamada RSI, técnica em que um modelo aprende sozinho e melhora sem intervenção direta.
A posição foi apresentada nesta segunda-feira (21), junto com a proposta de que os Estados Unidos conduzam a criação de um marco regulatório internacional para a IA. A empresa também apoiou a cooperação entre países na elaboração de regras de proteção e segurança.
Regras para reduzir riscos
Em uma publicação em seu blog, a OpenAI afirmou: “Os Estados Unidos estão bem posicionados para liderar este processo, já que sua indústria de IA está na vanguarda”.
A empresa relacionou a urgência do debate ao aumento das preocupações sobre os perigos do desenvolvimento da tecnologia para a humanidade. Nos últimos meses, a apreensão cresceu após incidentes envolvendo modelos de IA e advertências apocalípticas feitas por pessoas ligadas ao setor.
Para a OpenAI, a liderança americana pode definir se os Estados Unidos vão influenciar o marco global da IA ou acompanhar a formação de um sistema fragmentado, desigual e sujeito a conflitos.
A RSI é alvo de críticas porque poderia gerar consequências catastróficas caso os seres humanos não conseguissem intervir. Por isso, a empresa disse que a técnica não deve ser buscada “até que possa ser realizada com segurança”.
