Babá IA? Nova ferramenta de inteligência artificial pode mudar de vez a forma que os pais criam os filhos; entenda

Uma nova ferramenta de controle parental foi lançada pela OpenAI, dona do ChatGPT. O anúncio ocorre depois de um processo judicial alegar que um adolescente que se suicidou usava o chatbot de inteligência artificial (IA) como um psicólogo informal ou orientador. 

Disponível a partir desta segunda-feira (29), a empresa informa que o novo recurso possibilita que os pais limitem as formas como crianças e adolescentes usam o chatbot e recebam alertas caso o ChatGPT perceba que este usuário possa estar em sofrimento. 

POLÍCIA

Mulher mata marido após sofrer anos de agressões e traições: "Só me defendi"

Denúncia

Pré-candidato a presidência, Romeu Zema é denunciado por trabalho escravo e exploração de aposentados; saiba mais

Através das configurações do ChatGPT, é possível acessar os controles além de poder definir os horários no qual os filhos não podem usar o serviço. Apesar da do chatbot ser destinada a usuários com 13 anos ou mais, é possível acessar facilmente a plataforma sem que se crie uma conta e sem verificar a idade.

Processo e mudanças

A ferramenta que possui mais de 700 milhões de usuários desde seu lançamento no final de 2022, sofreu um grave processo, após a família de Adam Raine entrar com uma ação contra a OpenAI e seu diretor-presidente, Sam Altman, em agosto deste ano, pela morte do estudante de ensino médio da Califórnia.

O processo seguiu uma sequência de outros relatos sobre usuários intensivos do chatbot envolvidos em comportamentos maléficos, alegando que o ChatGPT isolou sistematicamente Raine de sua família e o ajudou a planejar sua morte. Ele se suicidou em abril.

“Sentimos urgência em relação a isso há algum tempo”, disse Lauren Jonas, chefe de bem-estar juvenil da OpenAI, acrescentando que a empresa está trabalhando o mais rapidamente possível para desenvolver ferramentas como os controles parentais.

Como funciona a configuração

Para configurar a nova mecânica, é necessário que um usuário adulto do ChatGPT envie um convite por e-mail ao filho. Com o convite aceito, o adulto pode então tomar medidas como decidir se o adolescente pode acessar o modo de voz do ChatGPT ou sua capacidade de gerar imagens, ou escolher se o chatbot pode fazer referência a conversas anteriores.

As ferramentas também possibilitam que os pais determinem se querem que seus filhos usem uma versão mais restrita do chatbot, programada para mostrar menos conteúdo relacionado a temas como dietas, sexo e discurso de ódio.

Caso o ChatGPT detecte que um adolescente pode estar em sofrimento mental, um revisor humano decidirá se deve enviar um alerta de emergência aos pais. Esses alertas podem ser configurados para chegar por e-mail, mensagens de texto e notificações do aplicativo ChatGPT.

Clique aqui e se inscreva no canal do BNews no Youtube

Lauren disse que os alertas têm como objetivo dar aos pais conhecimento suficiente sobre uma situação potencialmente prejudicial para que possam conversar com seus filhos, ao mesmo tempo em que respeitam sua privacidade e autonomia. A OpenAI não compartilhará com os pais as conversas dos adolescentes no ChatGPT, afirmou ela.

A empresa também avisou que está desenvolvendo um software para prever a idade de um usuário. A empresa planeja usá-la para orientar como o ChatGPT deve responder a menores de 18 anos.