Artigo
Publicado em 16/06/2020, às 19h15 Elizabeth Oliveira*
Na semana passada, uma petição online surgida em meio ao movimento antirracista em várias partes do Estados Unidos, desencadeado pelo assassinato de George Floyd, conseguiu com que a Amazon, IBM e Microsoft anunciassem a eliminação ou suspensão provisória da venda da tecnologia de reconhecimento facial para a polícia. Uma vitória que pode até ser temporária ou limitada, mas é significativa, visto que se trata de uma das tecnologias mais ameaçadoras à privacidade e à democracia, não apenas porque apresentam muitas falhas técnicas, mas porque o uso de seus algoritmos computacionais ameaça os direitos individuais e coletivos e ajudam a reproduzir o racismo, o sexismo e todo tipo de discriminação pré-existente.
Câmeras com tecnologias de reconhecimento facial são destinadas a identificar indivíduos por meio da comparação entre a imagem capturada em locais públicos ou privados e imagens de um banco de dados. Elas estão presentes em alguns espaços urbanos, aeroportos, shopping centers, transporte público, segurança pública e, mais recentemente, começaram a ser utilizadas na China no combate à pandemia, detectando pessoas que apresentem alta temperatura corporal e monitorando movimentos, mesmo de pessoas com máscara.
Na verdade, apesar de ser um dos mais ameaçadores, os sistemas de reconhecimento facial são apenas um dentre tantos outros sistemas algorítmicos de tecnovigilância baseados em inteligência artificial e numa imensa quantidade de dados pessoais (big data). Todo esse aparato se constitui num componente estrutural do atual modelo de economia digital ou, como também é chamado, do capitalismo de vigilância, uma esfera econômica que se constitui, atualmente, numa das grandes forças motrizes da acumulação rentista do capital financeiro.
Tais sistemas algorítmicos tem a função elementar de realizar a extração e processamento de dados e a análise preditiva de comportamentos com fins de monetização. Redes sociais, mecanismos de busca, plataformas de e-commerce, plataformas educacionais, jogos eletrônicos, aplicativos de transporte e de entrega são riquíssimas fontes dos valiosos dados.
Com isso, as big techs Google, Apple, Facebook, Amazon, Microsoft e outras corporações do capitalismo de vigilância traçam o perfil de cada indivíduo e, com base nessas informações, produzem e comercializam um sem número de serviços que impulsionam não apenas a indústria de publicidade digital, mas também a indústria de serviços financeiros, os data brokers, a indústria cultural e muitas outras. Nesse sentido, é crucial compreendermos como e porque a tecnovigilância converge com o neoliberalismo e com as forças antidemocráticas em geral.
O primeiro ponto fundamental é ter clareza sobre uma questão básica: esse modelo de economia digital não existe sem um abrangente, onipresente e automático processo de vigilância. Um dos momentos mais fundamentais do capitalismo de vigilância é a construção de perfis comportamentais de indivíduos, algo que não poderia ocorrer, obviamente, por meio do mero registro convencional de informações como endereço, filiação e data de nascimento.
Essa perfilização envolve a coleta de todo e qualquer tipo de dado pessoal digital ou digitalizado, através de variados dispositivos: cartões de crédito e débito, computadores, câmeras privadas e públicas, sensores, smartphones, dispositivos vestíveis, drones, eletrodomésticos, smart TVs e qualquer outro smart gadget. É preciso obter informações as mais variadas e numerosas possíveis sobre características comportamentais, psicológicas, profissionais, econômico-financeiras, políticas, religiosas, culturais e sociais.
Pela variedade de mecanismos e formas de extração, percebe-se que os dados são coletados independentemente de escolhas individuais. Os sistemas algorítmicos coletam dados que a grande maioria das pessoas nem imagina. Existem patentes que detectam o estado emocional do usuário pela velocidade de digitação, tipo de tecla digitada e pela forma como segura o smartphone, por exemplo. Um serviço comercializado pela IBM chamado “Watson Personality Insights” promete retratos de personalidade detalhados: “use a análise linguística para induzir características de personalidade individuais (como big five, necessidades e valores) a partir de comunicações digitais como e-mail, postagens de blog, tweets e postagens em fóruns.”
O segundo ponto crucial é compreender que a vigilância sustenta um outro fenômeno desse modelo de economia digital: a regulação algorítmica das condutas dos indivíduos. O controle que a Uber exerce sobre seus motoristas é um exemplo. Os algoritmos da empresa não apenas analisam todas as informações sobre esses trabalhadores e seu processo de trabalho, como produzem comportamentos, por meio, por exemplo, do estabelecimento de metas que se valem de truques psicológicos e gamificação.
A regulação da conduta também vale para consumidores. Diferentemente da alegação comum de que o conhecimento sobre o perfil do usuário serve para que as empresas melhor adequem a oferta de bens e serviços às (supostas) preferências do cliente, o que ocorre é mais complexo do que isso. O conhecimento sobre os perfis individuais permite que estes sejam subordinados aos fins econômicos e políticos de quem possui o poder algorítmico, que pode ser desde o Google ou o Facebook até os clientes dessas e outras big techs, ou seja, empresas e instituições estatais ou não estatais.
Neste caso, um exemplo bastante ilustrativo é a pontuação de crédito, tradicionalmente utilizada na gestão de risco de crédito. Apesar de ter surgido muito antes da economia digital contemporânea, o credit score é, atualmente, muito mais do que o registro de histórico de pagamentos e é utilizado para outros tipos de decisão que não apenas o de concessão de crédito. Cada vez mais baseado na tecnovigilância, hoje já se considera a quantidade de seguidores nas redes sociais, informações sobre os amigos, histórico de emprego e educacional, por exemplo, no cálculo da pontuação de crédito. A indústria de data brokers (corretores de dados) ajuda a impulsionar essa dinâmica. Nesse ramo, existem empresas como a Acxiom, uma das maiores dos Estados Unidos, que possui mais de 1500 pontos de dados para cada um dos 200 milhões de americanos.
No Brasil, recentemente foi iniciada uma trajetória que tende a convergir com as práticas americanas. A lei que autoriza a inclusão automática dos consumidores no cadastro positivo, aprovada em 2019, proporciona um poder algorítmico inédito às empresas responsáveis pela gestão das informações. Algumas dessas firmas são muito conhecidas entre consumidores finais, mas a natureza de suas atividades nem tanto: Serasa Experian e SPC Brasil, além de outras como Boa Vista e Quod, representam atualmente um ramo específico da economia de dados pessoais, uma indústria brasileira de bureaus de crédito renovada pela inteligência artificial e pelo big data, hoje um setor que se vale sistematicamente e cada vez mais da tecnovigilância, inclusive por meio de reconhecimento facial.
A Quod, a mais nova empresa desta indústria criada em 2017 pelos cinco maiores bancos brasileiros, tem como um de seus parceiros a FullFace Biometric Solutions, uma empresa de reconhecimento facial. A Serasa Experian possui o Mosaic, “a plataforma que classifica a população brasileira em 11 grupos e 40 segmentos, considerando aspectos financeiros, geográficos, demográficos e comportamentais, de consumo e estilo de vida”. “Jovens protagonistas da classe média”, “Saudade da roça” e “Ricos e influentes” são alguns dos segmentos existentes nessa plataforma.
Só para se ter uma ideia dos potenciais desses mecanismos de pontuação, a China utiliza um avançado sistema de crédito social através do qual o governo controla fortemente a vida de cada cidadão. Atravessar a rua fora da faixa e falar mal do governo nas redes sociais afeta negativamente a pontuação individual, o que pode se tornar um problema para matricular filhos na escola, viajar e obter crédito. O Ocidente não tem como reproduzir esse sistema chinês, que representa uma realidade histórica, política e cultural radicalmente distinta, mas o caso serve para vislumbrarmos como o neoliberalismo pode incorporar e adaptar esses dispositivos de controle digital.
A falta de transparência, a despolitização dos processos de tomada de decisão e a visão de mundo positivista intrínsecos à economia algorítmica são a própria expressão do neoliberalismo. Não tendo como subordinar os comportamentos da sociedade à lógica de mercado de forma espontânea ou meramente por meios democráticos, as forças neoliberais não medem nem medirão esforços para expandir a adoção de tecnologias de vigilância.
Se esse processo não encontrar resistência, as consequências serão nefastas. Enquanto mecanismo de controle, a tecnovigilância e a regulação algorítmica aumentam não apenas a fragilidade econômica dos trabalhadores, mas também produz vulnerabilidade política e social. Os movimentos democráticos não podem negligenciar os vastos riscos que esse modelo de economia digital baseado em dados pessoais representa.
*Elizabeth Oliveira - Professora e Pesquisadora da Faculdade de Economia na Universidade Federal da Bahia (UFBA), membro do Núcleo de Estudos Conjunturais (NEC/UFBA) e do Grupo de Estudos em Economia Política e Desenvolvimento (GEPODE/UFBA).
Classificação Indicativa: Livre
iPhone barato
Fones top de linha
Limpeza fácil
Oportunidade
Últimas horas
