Viralizou! Qual é minha benção? Entenda o que a IA sabe sobre você

Uma trend que viralizou nas redes sociais nos últimos dias mostra usuários pedindo para que as IAs respondam sobre sua personalidade, baseado no que é contado a ferramenta. Agora o questionamento que fica é: Até onde isso é seguro?

De acordo com reportagem do UOL, é importante que os usuários entendam o quanto esses dados podem ser usados de várias maneiras, inclusive como treinamento para outros modelos de inteligência artificial. 

Como as IAs lembram do que você fala?

Algumas IAs possuem uma ferramenta de memória. Essa ferramenta é criada para a IA lembrar dos comandos dados pelo usuário. Atualmente, os modelos de IAs que possuem este recurso sem ser limitado são o ChatGPT e Grok.

Como funciona?

O ChatGPT tem memória se a ferramenta for ativada, e lembra de você entre conversas. É possível gerenciar isso nas configurações. No Grok, a memória funciona de forma semelhante, sendo opcional e do controle do usuário.

O Gemini, da Google, usa dados da sua conta, mas não possui uma memória conversacional. O Claude tem memória limitada e ainda está em teste para poucos usuários. De acordo com a reportagem, é importante salientar que existe um risco de privacidade, visto que escrevemos de forma explícita o que gostamos, além de nossas dores e preferências.

Clique aqui e se inscreva no canal do BNews no YouTube!

O que dizem os termos de uso?

De acordo com o ChatGPT, não há armazenamento de dados sensíveis automaticamente, apenas se o usuário permitir. Com a memória habilitada, suas informações podem ser usadas para treinar a IA. Mesmo excluindo as conversas, os dados podem ser mantidos por ordem judicial, se a memória estiver ativa. 

O Grok afirma que a memória funciona opcionalmente, e só é ativada com consentimento do usuário. A IA também coleta dados de interações na web e apps para personalização. Ele descreve a ferramenta como transparente, editável e desativável para o usuário. A dica é que os usuários desativem essa memória das inteligências artificiais. 

Estudo recente

Um estudo recente conduzido por pesquisadores da Meta, Google DeepMind, Universidade Cornell e NVIDIA mostrou que os Modelos de Linguagem de Grande Porte (LLMs), como ChatGPT, Claude.AI e Gemini, podem memorizar somente uma fração mínima dos dados com os quais são treinados. 

Mesmo que esse procedimento seja feito com trilhões de palavras retiradas da internet, livros, códigos e até vídeos e áudios, as inteligências artificiais guardam pouquíssima informação de forma literal. De acordo com o estudo, os sistemas memorizam cerca de 3,6 “bits” por parâmetro. A representação disso é menos da metade do que é necessário para armazenar uma única letra.

Cada parte do sistema guarda pouca informação específica, sendo praticamente impossível que a IA repita exatamente o que leu. Ou seja, as IAs não mantém cópias exatas do conteúdo com o qual foram treinadas, mas, quanto mais dados recebem, menos detalhes específicos conseguem guardar.

Os testes ainda demonstraram que as ferramentas tendem a generalizar ideias, ao invés de repetir literalmente o que processaram. Dessa maneira, é possível entender que essas tecnologias aprendem a identificar padrões, não necessariamente frases específicas. 

Classificação Indicativa: Livre