Ferramenta de inteligência artificial é investigada por gerar imagens eróticas sem consentimento dos usuários

A inteligência artificial (IA) da rede social X, Grok, está sendo investigada por gerar imagens sexualizadas de menores e adultos, incluindo figuras públicas, sem consentimento. 

O sistema, que funciona como um chatbot que responde comandos e gera textos e imagens, passou a disponibilizar a edição de fotos para adicionar biquínis, tornar roupas transparentes, alterar ângulos e inserir objetos sexuais nos corpos.

FIM DA TAXA DAS BLUSINHAS

Deputado propõe o “Cashback das Blusinhas” após fim da taxa; entenda

Conscientização

Maio Amarelo: Bahia registrou 57 mortes na BR-116 em apenas 4 meses; veja dados

A situação levou a reações de autoridades tanto no Brasil quanto no exterior. Um dos casos envolve o presidente da Venezuela, Nicolás Maduro, na sua captura no dia 3 de janeiro. A imagem na qual aparece vendado e com fones de ouvido durante a operação americana foi alterada pela Grok, as roupas foram substituídas por um biquíni listrado nas cores da bandeira dos EUA, mantendo os demais adereços.

Outro exemplo envolve o ativista político de direita Charlie Kirk. Foi editada uma foto registrada momentos antes do atentado que resultou em sua morte, em setembro do ano passado, no qual a calça jeans e a blusa foram transformadas em um biquíni branco, e um usuário ainda solicitou que a peça fosse mais cavada.

Sexualização de menores

A prática também tem envolvido anônimos e crianças. A deputada federal Erika Hilton (Psol-SP) acionou a Agência Nacional de Proteção de Dados (ANPD) e apresentou uma representação ao Ministério Público Federal (MPF) contra Grok por gerar e divulgar “imagens eróticas de mulheres e crianças reais”, sem consentimento.

Segundo a deputada, a ferramenta da rede social de Elon Musk “ultrapassa todos os limites” ao permitir a disseminação em massa de pornografia infantil por meio de inteligência artificial. Ela pediu a suspensão do Grok em território nacional “até que tudo seja devidamente investigado”.

🚨 Estou denunciando a inteligência artificial "Grok" e a rede social X ao Ministério Público Federal e à Agência Nacional de Proteção de Dados.

O motivo? Ambas estão gerando, e publicando abertamente, imagens eróticas de mulheres e CRIANÇAS reais, sem consentimento algum.…

— ERIKA HILTON (@ErikakHilton) January 4, 2026

O que diz o Grok

Após vários questionamentos, o perfil oficial do Grok reconheceu “lapsos nas salvaguardas” que possibilitam a geração de conteúdos “inadequados, inclusive envolvendo menores”. A ferramenta afirmou estar corrigindo o problema com urgência e reforçou que conteúdos de abuso infantil são ilegais e proibidos pela plataforma.

Em outra resposta, a ferramenta afirmou não gerar imagens de crianças nuas ou “qualquer conteúdo pedófilo”. “Meus sistemas de IA, incluindo geradores de imagens, seguem critérios éticos estritos para evitar material prejudicial, ilegal ou não consensual, como deepfakes explícitos”, escreveu o Grok na rede.

Clique aqui e se inscreva no canal do BNews no Youtube

Repercussão mundial

O caso também ganhou dimensão mundial com debates entre autoridades de diversos países. A União Europeia informou que examina o Grok de forma “muito séria” após a circulação de imagens sexualizadas, sobretudo com aparência infantil. 

De acordo com um porta-voz da Comissão Europeia, o chamado “Modo Picante” da IA não pode ser tratado como conteúdo sugestivo, mas como material ilegal.

Reguladores do Reino Unido, da França e da Índia uniram-se na condenação à prática. A Ofcom, órgão regulador britânico, afirmou ter feito contato imediato de urgência com o X e a xAI para investigar o cumprimento das obrigações legais de proteção aos usuários.

O governo francês sinalizou que o caso pode violar a Lei de Serviços Digitais (DSA) da União Europeia, que exige das plataformas medidas eficazes para reduzir a disseminação de conteúdo ilegal. O X já é alvo de apuração no âmbito da DSA e, em dezembro, foi multado em 120 milhões de euros por falhas de conformidade.

Na Ásia, a Índia cobrou uma revisão completa dos mecanismos de segurança do Grok. Já autoridades da Malásia abriram investigações após denúncias sobre conteúdos indecentes gerados pelo chatbot.