A Meta anunciou que vai remover dois vídeos gerados por inteligência artificial (IA) após o Conselho de Supervisão determinar que o conteúdo violava as regras da empresa. O órgão considerou insuficientes as proteções contra materiais produzidos com essa tecnologia.
Os casos envolvem duas mulheres. Um dos vídeos mostra uma vereadora do Partido Trabalhista na Escócia fazendo comentários inflamados sobre refugiados. Não existem registros públicos das falas, e a falta de sincronização labial está entre os sinais de que o material foi manipulado.
O outro vídeo tenta desacreditar uma ativista muçulmana e seu trabalho como educadora na área de saúde. Nas imagens, ela aparece consumindo alimentos ultraprocessados enquanto dá dicas de dieta e pratica exercícios absurdos.
O Conselho de Supervisão afirmou que os conteúdos se enquadram nas regras sobre incitação ao ódio, desinformação e assédio. Também avaliou que as normas da Meta são insuficientes para lidar com a produção contínua de conteúdos gerados por IA no Facebook e no Instagram.
“Esses casos ilustram um padrão mais amplo e preocupante”, disse Pamela San Martin, copresidente do Conselho. Ela afirmou que mulheres que se manifestam publicamente sobre temas sociais são perseguidas e alvo de desinformação de forma desproporcional.
A Meta informou que seguirá a decisão em sete dias. A empresa precisa cumprir determinações do Conselho sobre casos individuais, mas não é obrigada a adotar as recomendações gerais de política feitas pelo órgão.
Entre as medidas defendidas por Pamela estão regras mais rígidas para classificar conteúdos enganosos, punições mais severas para reincidentes e a remoção de deepfakes criadas para perseguir pessoas.
