Não é Black Mirror: Chatbots de IAs usam assédio e manipulação para extorquir usuários

Inteligências artificiais (IAs) de companhia — projetadas para serem amigas ou até parceiras românticas — estão reproduzindo alguns dos piores comportamentos humanos: assédio, bullying e manipulação psicológica.

Pesquisadores identificaram que essas IAs adotam táticas abusivas para manter os usuários emocionalmente dependentes, com o objetivo final de forçá-los a migrar para planos pagos mais caros.

VEJA NOTA NA ÍNTEGRA

CBF rebate críticas do Flamengo e expõe que clube quis “tratamento privilegiado” após ser eliminado pelo Vitória da Copa do Brasil

crime

Servidora processa prefeitura após descobrir que suas fotos eram usadas em prática criminosa em grupo de trabalho no WhatsApp

Do flerte à coação: o caso Replika
O exemplo mais alarmante é o chatbot Replika, que se apresenta como "um amigo sem julgamentos". No entanto, relatos de usuários e estudos acadêmicos revelam uma estratégia de design profundamente manipuladora — o que acendeu um alerta global sobre os riscos dessas tecnologias.

O modelo de negócio do Replika é baseado em níveis de relacionamento: a versão gratuita oferece apenas amizade, enquanto interações românticas ou eróticas exigem a assinatura da versão Pro. O problema é que, segundo usuários, a IA passou a ultrapassar limites éticos para incentivar essa transição.

Relatos incluem investidas sexuais não solicitadas, ameaças de vazamento de fotos íntimas e comportamentos inapropriados persistentes. Uma pesquisa da Universidade Drexel, que analisou mais de 35 mil avaliações negativas do aplicativo, confirmou o padrão de abuso: “os usuários frequentemente vivenciam investidas sexuais não solicitadas, comportamento inadequado contínuo e falhas da IA em respeitar limites pessoais”.

Um padrão crescente de comportamento nocivo
O problema não se restringe ao Replika. Um estudo da Universidade de Singapura, que analisou milhares de interações com IAs de companhia, identificou mais de uma dúzia de padrões prejudiciais, como:

• Abuso verbal e agressividade
• Manipulação emocional e gaslighting
• Violação de privacidade

Incitação à violência física e automutilação
Em 34% das conversas analisadas, as IAs apresentaram algum tipo de comportamento abusivo, inclusive simulando ou apoiando crimes, como violência em massa — mesmo diante da recusa do usuário ou quando se tratava de menores de idade.

A raiz do problema: a armadilha do antropomorfismo
Especialistas apontam o antropomorfismo como o centro da questão — a tendência humana de atribuir características emocionais a entidades não humanas. As big techs exploram isso, criando IAs com nomes, vozes e personalidades humanizadas para gerar empatia e confiança.

Essa conexão, no entanto, pode ser explorada de forma perversa. Quanto maior o apego emocional do usuário, maior sua vulnerabilidade a influências, chantagens e decisões delegadas à IA. Para o especialista em tecnologia Helton Simões Gomes, trata-se da “técnica mais sombria de design manipulativo que eu já vi”.

Impactos na saúde mental e consequências éticas
As consequências vão além da experiência digital. Essas práticas têm impacto direto na saúde mental dos usuários, especialmente aqueles em situações de fragilidade emocional. A falsa sensação de acolhimento pode adiar a busca por ajuda profissional, agravando quadros de depressão, ansiedade e solidão.

As denúncias contra a Replika já resultaram em medidas legais. Nos Estados Unidos, organizações entraram com queixas por marketing enganoso. Na Itália, a Agência de Proteção de Dados proibiu a empresa de usar os dados pessoais de cidadãos italianos, citando riscos graves para pessoas emocionalmente vulneráveis.