VÍDEO: Deputada denuncia caso de racismo por IA; entenda o caso

A deputada estadual Renata Souza (PSOL-RJ), publicou em suas redes sociais na última quinta-feira (26), um caso de “racismo algorítmico”. Ela explicou que, ao pedir para uma ferramenta de inteligência artificial (IA) criar um personagem de mulher negra na favela, ao estilo das animações da Pixar, obteve, como resultado, a imagem de uma pessoa segurando uma arma de fogo na mão. 

Inscreva-se no canal do BNews no WhatsApp

CRIME BRUTAL

Homem é executado com mais de 50 tiros na cabeça em Salvador

BAFAFÁ

Globo adia exibição da entrevista de Davi ao Altas Horas; motivo é revelado

Apesar da deputada não especificar qual foi a ferramenta utilizada em seu experimento para criar a imagem, a criação de personagens com os traços conhecidos do estúdio de animação da Disney se tornou uma trend nos últimos dias, já que a Microsoft disponibilizou, gratuitamente, um software que permite o serviço que utiliza inteligência artificial. 

Em suas redes sociais, a deputada acusa a plataforma, dizendo que a descrição feita para pedir a imagem foi de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. 

“O racismo algoritmo está aí. Essa lógica de criminalização das pessoas negras, nesses territórios de favelas e periferias, também está nos algoritmos”, disse a deputada, relatando a situação. 

Confira o vídeo: 

Ver essa foto no Instagram

Uma publicação compartilhada por Renata Souza (@renatasouzario)

A Microsoft, responsável pelo robô inteligente, se pronunciou afirmando que está investigando o caso e que tomará medidas para ajustar o serviço.  

“Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério. Estamos investigando este relato e tomaremos as medidas adequadas para ajustar nosso serviço. Estamos totalmente comprometidos em melhorar a precisão dos resultados desta nova tecnologia e continuaremos fazendo investimentos adicionais para isso à medida que ela continua a evoluir”, disse a empresa. 

O que é racismo algorítmico? 

O termo “racismo algorítmico” é utilizado para explicar a reprodução de conteúdos que refletem preconceitos e discriminações presentes na sociedade no meio digital. O primeiro caso foi registrado em 2010, quando câmeras fotográficas da Nikon não reconheciam rostos asiáticos por conta de um recurso para evitar selfies com olhos fechados. 

Entenda a trend 

A nova trend das redes sociais cria personagens no estilo da Pixar, estúdio de animação pertencente à Disney. As imagens são produzidas a partir do Bing Image Creator, da Microsoft, que usa um “robô desenhista”. 

O Bing Image Creator gera as imagens a partir do DALL-E 3, algoritmo de IA da OpenAI que também é usado no ChatGPT.