A Comissão Europeia anunciou, nesta segunda-feira (26), uma nova investigação contra a rede social X, propriedade de Elon Musk, devido a imagens de menores e de mulheres nuas geradas pelo Grok, seu assistente de inteligência artificial.
A Europa não "tolerará comportamentos irresponsáveis" por parte das plataformas digitais como "as imagens falsas de nudez de mulheres e crianças", afirmou a presidente da Comissão Europeia, Ursula von der Leyen, em declarações à AFP.
"Nossa posição é clara: não confiaremos o consentimento nem a proteção da infância a plataformas tecnológicas para que os violem e monetizem", assegurou a chefe do Executivo europeu.
Ela também acrescentou que, embora já existam medidas de proteção, "devemos fazer mais para proteger os cidadãos, tanto online como offline".
O objetivo da nova investigação é verificar se a rede X (antes Twitter) infringiu as normas europeias sobre o ambiente digital, que obriga a proteção aos usuários de conteúdos ilegais.
O Executivo comunitário decidiu ainda ampliar o alcance de uma primeira investigação aberta em dezembro de 2023 contra o X, também no âmbito da a Lei dos Serviços Digitais (DSA, na sigla em inglês). A ação já resultou em uma multa de 120 milhões de euros (R$ 752,4 milhões na conversão atual) para a rede social.
O Grok tem uma função que permite aos usuários criar imagens falsas de nudez a partir de fotos reais de menores ou mulheres.
Vários países, entre eles França e Reino Unido, iniciaram processos legais e alguns chegaram a suspender ou bloquear o acesso à rede X.
Após limitar inicialmente o acesso a essa função, a rede anunciou em meados de janeiro que apenas restringiria seu uso nos países onde é ilegal criar esse tipo de imagens sexuais.
Milhões de imagens sexualizadas
Segundo um estudo publicado pelo Centro de Combate ao Ódio Digital, uma ONG que denuncia as práticas do X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em um período de apenas 11 dias, uma média de 190 imagens por minuto.
Outra análise, realizada pela AI Forensics, mostrou que mais da metade das mais de 20.000 imagens geradas pelo Grok representam pessoas com pouca roupa, das quais 81% eram mulheres e 2% pareciam menores de idade.
Com este novo processo contra o X, os europeus correm o risco de provocar novas represálias do presidente dos Estados Unidos, Donald Trump, que acusa Bruxelas de atacar os gigantes tecnológicos americanos.
Em dezembro, o governo dos Estados Unidos impôs sanções ao ex-comissário Thierry Breton, artífice da DSA, assim como a outras quatro pessoas envolvidas na regulação do setor tecnológico e no combate à desinformação.
