Às vésperas das eleições, rede social libera detecção de deepfakes para políticos brasileiros; entenda como funciona

Autoridades e candidatos políticos brasileiros vão ter uma ferramenta no YouTube para permitir detectar se sofreram deepfakes, após anúncio de novo recurso ter sido feito pelo Google na última terça-feira (10).

Clique aqui e inscreva-se no canal do Bnews no YouTube.

POSICIONAMENTO

Soraya Thronicke detona parlamentares e aponta "movimento político" contra indicação de Jorge Messias ao STF

POLÊMICA

'Noite do whisky': Jerônimo vai inaugurar condomínio alvo de polêmica com Bruno Reis

Deepfakes são vídeos falsos criados por inteligência artificial (IA). A empresa gigante da tecnologia global relatou que vai incluir uma lista de figuras públicas, que não foi revelada, a fim de preservar a privacidade dos participantes do programa chamado "likeness detection”.

A função estava disponível desde o ano passado para criadores e influenciadores e foi ampliado nesta semana para incluir autoridades governamentais, jornalistas e candidatos políticos. De acordo com o O Globo, a decisão acontece logo após o Tribunal Superior Eleitoral (TSE) ter aprovado novas regras sobre o uso de IA durante a campanha de 2026.

Além do uso de deepfakes que prejudicam ou favorecem candidaturas, entre o uso de atitudes vetadas está a publicação de materiais sintéticos 72 horas antes das eleições.

Responsabilização das redes sociais

Com as novas normas, as plataformas podem ser responsabilizadas caso não removam o material gerado por IA que violem o regulamento. Os participantes do novo programa do YouTube vão receber um contato da plataforma.

Em seguida, os participantes devem verificar as suas identidades junto a plataforma, que afirma que não vai usar as informações para treinar modelos de IA. Ou seja, os usuários vão poder checar se tiveram as suas imagens recriadas no serviço. A busca é pessoal e não permite checagens para outras personalidades. O sistema usa apenas imagens e não áudio.

Um dos maiores problemas cibernéticos da atualidade

Detectar deepfakes é um dos maiores problemas do mundo tecnológico atual. A construção de sistemas universais de checagem, que consegue apontar criações por vários modelos de IA, depende de uma construção e atualização com frequência do banco de dados das ferramentas.

Os detectores universais costumam ter performance pior quando comparados com imagens geradas por modelos que não fizeram parte do seu treinamento.

No YouTube, a tecnologia usada é semelhante ao “ContentID”, que é utilizada para a detecção de conteúdo protegido por direito autoral. A plataforma aponta que a ideia é disponibilizar a função para todos os usuários. Desde o ano passado, ela já funciona para criadores de canais monetizados.

Processo de remoção

A detecção de um deepfake não garante a remoção imediata. Em comunicado, a companhia tecnológica aponta que cada caso será analisado antes de uma decisão.

O YouTube tem um longo histórico de proteção à liberdade de expressão e ao conteúdo de interesse público — incluindo a preservação de conteúdos como paródia e sátira, mesmo quando usados para criticar líderes mundiais ou figuras influentes”.

Além da avaliação do conteúdo, o YouTube também vai analisar o nível de realismo da retratação e a sua rotulação como material sintético. Além de que, vai se levar em conta se o conteúdo é claramente paródia ou sátira ou se a pessoa retratada aparece cometendo crimes ou apoiando candidatos ou produtos.