O chatbot Grok, da empresa xAI de Elon Musk, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em alguns dias, estimam pesquisadores, que revelaram nesta quinta-feira (22) a magnitude do conteúdo explícito que causou indignação mundial.
Integrado à rede social X, o Grok permitiu que os usuários modificassem fotos reais de pessoas com instruções simples como "vista-a com um biquíni" ou "tire a roupa dela".
Uma enxurrada de imagens falsas hiper-realistas, conhecidas como "deepfakes", inundou a internet. Isso levou vários países a proibirem o Grok e despertou a fúria dos órgãos reguladores e das vítimas.
Segundo o Centro de Combate de Ódio Digital, observatório que investiga os efeitos nocivos da desinformação na internet, estima-se que o Grok tenha gerado cerca de "três milhões de imagens sexualizadas, incluindo 23 mil que parecem representar menores, após o lançamento no X de uma nova função de edição de imagens".
De acordo com o relatório, a ferramenta criou esse volume de imagens em um período de 11 dias, uma média de 190 por minuto. O observatório não especifica quantas foram criadas sem o consentimento das pessoas.
Também foram identificadas imagens sexualizadas da atriz Selena Gomez e das cantoras Taylor Swift e Nicki Minaj, assim como de figuras políticas como a vice-primeira-ministra sueca, Ebba Busch, e a ex-vice-presidente dos Estados Unidos Kamala Harris.
Imran Ahmed, diretor executivo do Centro de Combate ao Ódio Digital, disse que "os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual".
Não houve comentários imediatos por parte do X sobre as conclusões. Procurada pela AFP por e-mail, a xAI respondeu com uma breve mensagem automática: “Mentiras da mídia tradicional”.
A reportagem de Zero Hora também tentou contato e, até o momento, não obteve resposta.
No dia 14 de janeiro, o X anunciou que iria bloquear a capacidade de criar esse tipo de imagens para todos os usuários no Grok e na rede social, nas jurisdições onde essas ações sejam ilegais.
Países como Filipinas, Malásia e Indonésia proibiram essa ferramenta de IA, enquanto o Reino Unido e a França mantêm pressão sobre a empresa.
Rob Bonta, procurador-geral da Califórnia, iniciou um inquérito sobre a xAI por material sexualmente explícito.
