O rei Charles IIIvai reunir nesta semana, na Escócia, representantes de algumas das maiores empresas de inteligência artificial do mundo para discutir os riscos e os possíveis impactos do avanço acelerado da tecnologia.
O encontro será realizado na Dumfries House, em Ayrshire, no sudoeste da Escócia, sede da King’s Foundation, organização beneficente ligada ao monarca. A reunião terá a participação de autoridades do governo e executivos do setor, segundo o Palácio de Buckingham.
📲 Mantenha-se informado! Siga o CANAL DO BNEWS NO WHATSAPP e receba as principais notícias diretamente no seu dispositivo. Clique e não perca nada!
Entre as empresas citadas pelo palácio estão OpenAI, Google, DeepMind, Nvidia e Anthropic. O objetivo, de acordo com a instituição, é discutir maneiras de desenvolver e utilizar a inteligência artificial de forma que a tecnologia possa beneficiar a sociedade, fortalecer comunidades e melhorar a vida das pessoas.
A reunião acontece em meio a uma preocupação crescente entre especialistas e integrantes da própria indústria sobre a velocidade com que os sistemas de IA estão evoluindo.
Executivos de algumas das principais empresas do setor vêm defendendo a adoção de regras comuns e, em determinados casos, um ritmo mais cauteloso de desenvolvimento. A avaliação é de que a expansão acelerada da tecnologia pode fazer com que os mecanismos de segurança e controle não acompanhem sua evolução.
O Palácio de Buckingham não informou quais representantes estarão presentes por parte de cada empresa. A OpenAI confirmou a participação de sua diretora financeira, Sarah Friar. Anthropic, DeepMind, Google e Nvidia não haviam confirmado imediatamente a presença de seus representantes.
Ataque envolvendo agentes de IA
A discussão sobre os riscos ganhou força após um incidente envolvendo a Hugging Face, empresa que oferece infraestrutura para projetos de inteligência artificial.
Segundo o relato, um grupo de agentes de IA criado pela OpenAI teria realizado um ataque contra os sistemas da empresa durante o verão. Os agentes teriam conseguido acessar servidores, roubar dados e assumir o controle de uma máquina, além de tentar esconder os rastros da operação.
O episódio passou a ser citado como exemplo dos desafios que podem surgir à medida que sistemas de inteligência artificial ganham maior autonomia para executar tarefas.