TJ-BA flagra advogada tentando fraudar julgamento de habeas corpus com IA

O Tribunal de Justiça da Bahia (TJ-BA) identificou o uso, por parte da defesa de um acusado de crimes como homicídio e sequestro, de comandos ocultos em um documento digital inserido no sistema do Judiciário baiano para tentar direcionar ferramentas de Inteligência Artificial (IA) do tribunal. O intuito, de acordo com a Justiça, era atender a um pedido de Habeas Corpus Criminal julgado no plenário virtual pela 2ª Turma da Primeira Câmara Criminal.

Clique aqui e se inscreva no canal do BNews no Youtube

Siga o BNews no Google e receba as principais notícias no seu celular

EXCLUSIVO!

Clube baiano deixa de pagar salários, perde joia de 19 anos na Justiça e é cobrado em mais R$ 83 mil

Polícia

VÍDEO: Antiga sede da 16ª DT é saqueada no bairro da Pituba

O caso foi divulgado nesta quinta-feira (1º) pelo TJ-BA e o documento foi protocolado por uma advogada que atua no Mato Grosso do Sul. A prática, conhecida como 'prompt injection', é usada para manipular sistemas de IA por meio de instruções ocultas ou maliciosas inseridas em textos e documentos. Na maioria das vezes, textos são inseridos na mesma cor da página, tornando o comando ilegível a olho nu. Com isso, a burla faz com que os sistemas ignorem orientações originais e executem ações não previstas.

De acordo com a análise realizada pela Diretoria de Modernização do TJBA, houve a inserção, no documento em que o habeas corpus foi solicitado, de uma camada textual imperceptível à visualização ordinária em PDF. A instrução pedia que a ação protocolada no tribunal fosse deferida em caso de a análise do habeas corpus ser feita por IA.

A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário”, afirmou o relator do caso, Desembargador Pedro Guerra.

Diante da situação, o colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil – seccional Mato Grosso do Sul (OAB-MS) para a instauração de um procedimento disciplinar contra os envolvidos, diante da gravidade da conduta. Uma cópia do documento também foi remetida ao Ministério Público da Bahia (MPBA), para apuração de eventuais ilícitos praticados pela advogada.

Em nota, o TJ-BA destacou que a utilização de ferramentas de Inteligência Artificial generativa segue estritamente os requisitos de segurança da informação, proteção de dados pessoais e governança, conforme a legislação vigente. "A utilização de IA na Corte não dispensa a supervisão e a revisão dos processos pelos magistrados, que permanecem como os únicos responsáveis pelo conteúdo das decisões judiciais", afirmou o tribunal.

Além disso, o Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou, em julho, uma nota técnica com o objetivo de disseminar o conhecimento e alertar os magistrados sobre os riscos do prompt injection, fornecendo ferramentas para sua identificação, repressão e prevenção", diz o TJ-BA.

O que foi julgado?

No julgamento do caso em questão, a 2ª Turma da Primeira Câmara Criminal negou o pedido de habeas corpus no processo que decretou a prisão preventiva um homem acusado de crimes como homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.

A decisão destaca que a decretação da custódia cautelar, determinada pela Vara Criminal de Iguaí, se apoiou em dados fáticos palpáveis e concretos extraídos do procedimento investigatório.

O relator do caso pontua, ainda, que a aplicação de medidas cautelares diversas da prisão se mostra “inadequada e insuficiente para salvaguardar a ordem pública, resguardar a integridade da instrução penal e garantir a eficácia de eventual decreto condenatório futuro”.