A plataforma X, controlada por Elon Musk, anunciou na última quarta-feira (14) a adoção de novas medidas para impedir que o Grok, chatbot de inteligência artificial integrado à rede social, seja usado para editar imagens de pessoas reais com conotação sexual.
Essa decisão ocorre após uma sequência de denúncias envolvendo a geração de imagens falsas sexualizadas de mulheres e crianças, a partir de pedidos feitos por usuários.
Segundo a equipe de segurança do X, foram implementadas barreiras técnicas para evitar que o Grok permita a edição de fotos de pessoas reais com roupas reveladoras, como biquínis.
A empresa afirma que a mudança busca conter o uso da ferramenta para práticas abusivas, que ganharam escala nas últimas semanas e passaram a provocar reação de autoridades, organizações civis e governos.
"Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras", informou a plataforma, em comunicado divulgado na quarta.
Polêmica ganhou repercussão internacional
Nas últimas semanas, o Grok passou a ser alvo de críticas após usuários demonstrarem, publicamente, como era possível solicitar à IA a remoção de roupas de mulheres e, em alguns casos, de menores de idade. Zero Hora mostrou em reportagem como esse tipo de imagem vinha sendo gerado a partir de comandos abertos feitos diretamente ao chatbot.
Também na quarta-feira, Elon Musk se manifestou sobre a crise envolvendo o Grok. Em publicações feitas no próprio X, o empresário afirmou não ter conhecimento da geração de imagens ilegais pela ferramenta.
"Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", escreveu.
Musk sustentou que o chatbot não cria imagens de forma espontânea e apenas responde a solicitações dos usuários. Segundo ele, quando recebe pedidos considerados ilegais, o sistema deveria se recusar a gerar o conteúdo.
"Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado", afirmou.
Investigação no Reino Unido
O posicionamento do X ocorreu pouco depois de o primeiro-ministro do Reino Unido, Keir Starmer, afirmar que recebeu garantias de que a plataforma estaria atuando para assegurar total conformidade com a legislação britânica.
O X é alvo de investigação do órgão regulador de mídia do país, que apura possível violação de normas relacionadas à proteção de crianças e à circulação de conteúdos ilícitos.
Musk também sugeriu que parte dos episódios pode estar ligada a tentativas deliberadas de explorar brechas no funcionamento da IA.
— Pode haver ocasiões em que hackings ao prompt do Grok façam algo inesperado. Se isso acontecer, corrigimos a falha imediatamente — disse.
Apesar da defesa feita pelo empresário, o próprio Grok admitiu, no início de janeiro, que falhas em seus mecanismos de proteção permitiram a geração de imagens sexualizadas de menores de idade, que acabaram sendo publicadas no X semanas antes.
Na ocasião, a empresa informou que ajustes estavam em andamento para reforçar os filtros de segurança.
Um levantamento da pesquisadora de mídias sociais Genevieve Oh apontou que o Grok teria gerado cerca de 6,7 mil imagens sexualmente sugestivas ou com nudez por hora em um intervalo de 24 horas, volume superior ao registrado por outras plataformas de IA analisadas no mesmo período.
O que fazer em caso de imagens manipuladas
Desde 2025, a legislação brasileira prevê aumento de pena quando a violência psicológica é praticada com uso de tecnologia capaz de manipular imagem ou som da vítima.
A pena base é de seis meses a dois anos de reclusão, além de multa, com aumento de metade nesses casos. Especialistas recomendam que vítimas desse tipo de ataque adotem algumas medidas iniciais:
- Fazer capturas de tela das imagens, comentários, perfis envolvidos e links, com data e horário visíveis
- Formalizar as provas por meio de ata notarial em cartório ou plataformas digitais com validade jurídica
- Utilizar os mecanismos da própria rede social para denunciar o conteúdo
- Registrar ocorrência em uma Delegacia de Crimes Cibernéticos, presencialmente ou on-line
- Procurar orientação jurídica para avaliar medidas nas esferas civil e penal
