País investiga rede social X em função de imagens sexuais ilegais geradas por IA

O órgão regulador de segurança da internet do Reino Unido, Ofcom, abriu uma investigação contra a rede social X, do magnata Elon Musk, pela divulgação de imagens de caráter sexual geradas pela assistente de IA da plataforma, Grok, que inclui conteúdo potencialmente ilegal envolvendo menores.

"Foram recebidos relatos muito preocupantes sobre o uso" do Grok no X "para criar e compartilhar imagens de pessoas nuas, o que poderia constituir atentado ao pudor ou pornografia, assim como imagens de caráter sexual de crianças, que poderiam constituir material de pornografia infantil”, indicou a agência em comunicado.

Siga o BNews no Google e receba as principais notícias no seu celular

Falsa orfã

Mulher que se passava por criança em SC já tinha sido presa pelo mesmo crime

DE SAÍDA!

Atacante ‘rejeitado’ deixa o Vitória após marcar apenas dois gols em 30 jogos

De acordo com porta-voz do primeiro-ministro britânico, Keir Starmer, tal medida "simplesmente transforma uma função que permite a criação de imagens ilegais em um serviço premium" e constitui "um insulto às vítimas de misoginia e violência sexual". Protestos em todo o mundo tem sido realizados por conta da prática, no qual as imagens são criadas após pedidos ao Grok para despir pessoas reais a partir de fotos ou vídeos.

Clique aqui e se inscreva no canal do BNews no Youtube!

Outros países já entraram em ação

No último sábado (10), a Indonésia anunciou a suspensão temporária do Grok, depois do escândalo envolvendo imagens pornográficas falsas de pessoas despidas. Já no domingo (11), a Malásia também suspendeu o acesso ao assistente de inteligência artificial da plataforma X. Depois de diversas críticas, na última sexta-feira (9), o Grok desativou sua função de criação de imagens para usuários não assinantes.

Desdobramentos

A Ofcom afirmou nesta segunda-feira (12) que solicitou explicações ao X, na semana passada, e a rede social "respondeu dentro do prazo estipulado". A investigação vai poder "determinar se o X violou suas obrigações legais", que lhe impõem, entre outras coisas, "avaliar o risco de que pessoas acessem conteúdos ilegais no Reino Unido".

A medida também busca "eliminar os conteúdos ilegais" e "avaliar os riscos que representam para as crianças britânicas". A agência ainda pode estabelecer multas de até 10% do faturamento mundial da empresa afetada e recorrer à Justiça para solicitar o bloqueio do site no Reino Unido.