Manipulação de IA no Judiciário Paraense: O Inédito Desafio à Integridade da Justiça Regional
A tentativa de "prompt injection" em processo trabalhista no Pará expõe a vulnerabilidade e os dilemas éticos na crescente adoção da Inteligência Artificial pelos tribunais.
Reprodução
A Justiça do Pará se tornou palco de um episódio inédito que reverberou por todo o cenário jurídico nacional. Em Parauapebas, duas advogadas foram severamente multadas após uma tentativa flagrante de manipulação da Inteligência Artificial "Galileu", ferramenta crucial para a elaboração de sentenças em processos trabalhistas. As profissionais inseriram um "prompt injection" – um comando oculto, invisível a olho nu, mas detectável pelo sistema – dentro de uma petição. A intenção era explícita: forçar a IA a analisar o processo de forma superficial e abster-se de impugnar documentos, favorecendo indevidamente seu cliente.
O juiz responsável classificou a conduta como um "ataque direto à integridade da atividade da Justiça", resultando em uma multa robusta de R$ 84 mil. A Ordem dos Advogados do Brasil (OAB-PA) foi notificada, evidenciando a seriedade do incidente. As advogadas, por sua vez, defendem que a ação visava proteger o cliente da própria IA, e não manipular a decisão judicial. Este caso singular lança luz sobre os desafios éticos e a necessidade premente de segurança no uso de tecnologias disruptivas no Judiciário.
Por que isso importa?
Contexto Rápido
- O uso global e crescente da Inteligência Artificial, em particular a IA generativa, que tem sido integrada em setores públicos como o Judiciário, prometendo maior eficiência e celeridade processual.
- O Brasil se posiciona como um dos países com maior adoção de IA no setor público, com sistemas como o "Victor" no Supremo Tribunal Federal e o "Galileu" no Tribunal Regional do Trabalho, visando otimizar a gestão e a decisão judicial.
- O caso de Parauapebas, no sudeste do Pará, é um marco regional e nacional, sendo um dos primeiros registros públicos de tentativa de manipulação de IA em um processo judicial no Brasil, colocando a região na vanguarda dos debates éticos da tecnologia.