Viralizou! Qual é minha benção? Entenda o que a IA sabe sobre você

Uma trend que viralizou nas redes sociais nos últimos dias mostra usuários pedindo para que as IAs respondam sobre sua personalidade, baseado no que é contado a ferramenta. Agora o questionamento que fica é: Até onde isso é seguro?

De acordo com reportagem do UOL, é importante que os usuários entendam o quanto esses dados podem ser usados de várias maneiras, inclusive como treinamento para outros modelos de inteligência artificial. 

Siga o BNews no Google e receba as principais notícias no seu celular

Capital do Cuscuz

Cidade baiana pode se tornar 'Capital do Cuscuz'; saiba qual

SUSPENSO!

Justiça Federal paralisa contratos de R$515 bilhões e suspende megaleilão do governo; entenda

Como as IAs lembram do que você fala?

Algumas IAs possuem uma ferramenta de memória. Essa ferramenta é criada para a IA lembrar dos comandos dados pelo usuário. Atualmente, os modelos de IAs que possuem este recurso sem ser limitado são o ChatGPT e Grok.

Como funciona?

O ChatGPT tem memória se a ferramenta for ativada, e lembra de você entre conversas. É possível gerenciar isso nas configurações. No Grok, a memória funciona de forma semelhante, sendo opcional e do controle do usuário.

O Gemini, da Google, usa dados da sua conta, mas não possui uma memória conversacional. O Claude tem memória limitada e ainda está em teste para poucos usuários. De acordo com a reportagem, é importante salientar que existe um risco de privacidade, visto que escrevemos de forma explícita o que gostamos, além de nossas dores e preferências.

Clique aqui e se inscreva no canal do BNews no YouTube!

O que dizem os termos de uso?

De acordo com o ChatGPT, não há armazenamento de dados sensíveis automaticamente, apenas se o usuário permitir. Com a memória habilitada, suas informações podem ser usadas para treinar a IA. Mesmo excluindo as conversas, os dados podem ser mantidos por ordem judicial, se a memória estiver ativa. 

O Grok afirma que a memória funciona opcionalmente, e só é ativada com consentimento do usuário. A IA também coleta dados de interações na web e apps para personalização. Ele descreve a ferramenta como transparente, editável e desativável para o usuário. A dica é que os usuários desativem essa memória das inteligências artificiais. 

Estudo recente

Um estudo recente conduzido por pesquisadores da Meta, Google DeepMind, Universidade Cornell e NVIDIA mostrou que os Modelos de Linguagem de Grande Porte (LLMs), como ChatGPT, Claude.AI e Gemini, podem memorizar somente uma fração mínima dos dados com os quais são treinados. 

Mesmo que esse procedimento seja feito com trilhões de palavras retiradas da internet, livros, códigos e até vídeos e áudios, as inteligências artificiais guardam pouquíssima informação de forma literal. De acordo com o estudo, os sistemas memorizam cerca de 3,6 “bits” por parâmetro. A representação disso é menos da metade do que é necessário para armazenar uma única letra.

Cada parte do sistema guarda pouca informação específica, sendo praticamente impossível que a IA repita exatamente o que leu. Ou seja, as IAs não mantém cópias exatas do conteúdo com o qual foram treinadas, mas, quanto mais dados recebem, menos detalhes específicos conseguem guardar.

Os testes ainda demonstraram que as ferramentas tendem a generalizar ideias, ao invés de repetir literalmente o que processaram. Dessa maneira, é possível entender que essas tecnologias aprendem a identificar padrões, não necessariamente frases específicas.