Avanços tecnológicos têm transformado diversas esferas da sociedade, e o Poder Judiciário não é exceção. Recentemente, um caso emblemático em Parauapebas, no Pará, demonstrou a capacidade de uma ferramenta de inteligência artificial (IA) desenvolvida no Rio Grande do Sul para combater novas formas de fraude. O sistema, batizado de Galileu, criado pelo Tribunal Regional do Trabalho da 4ª Região (TRT4), sediado em Porto Alegre, identificou um “código secreto” inserido por advogadas em uma petição, impedindo uma tentativa de manipulação processual e resultando em uma multa de R$ 84 mil.
Este episódio ressalta a importância da segurança digital e da supervisão humana na era da IA, especialmente em contextos sensíveis como o jurídico. A técnica empregada pelas advogadas, conhecida como “prompt injection”, visava enganar a inteligência artificial para que realizasse uma análise superficial do documento, comprometendo a integridade do processo. A detecção do ataque pelo Galileu marca um precedente significativo na proteção contra manipulações digitais no âmbito judicial brasileiro.
O Inédito Caso de Fraude e a Detecção Pela Inteligência Artificial
O incidente em Parauapebas (PA) representa o primeiro caso confirmado de ataque do tipo “prompt injection” detectado por um sistema de IA no Judiciário brasileiro. Segundo Natacha Moraes de Oliveira, secretária-geral de tecnologia e inovação do TRT4, o sistema já havia sinalizado outros conteúdos suspeitos, mas estes foram posteriormente validados como legítimos após verificação humana, configurando “falsos positivos”. A confirmação deste ataque específico sublinha a sofisticação das tentativas de fraude e a eficácia da ferramenta gaúcha.
A fraude consistia na inserção de comandos ocultos dentro da petição, projetados para direcionar a IA a uma interpretação tendenciosa ou incompleta do material. Essa tática busca explorar vulnerabilidades nos modelos de linguagem, que podem ser induzidos a seguir instruções maliciosas se não houver mecanismos de segurança robustos. A ação rápida e precisa do Galileu impediu que a estratégia surtisse efeito, protegendo a imparcialidade do processo e a confiança na aplicação da justiça.
Como o Sistema Galileu Identificou e Neutralizou a Tentativa de Manipulação
O funcionamento do Galileu para barrar a fraude ocorreu em um processo de três etapas bem definidas. Primeiramente, ao processar o documento, a ferramenta de inteligência artificial foi capaz de identificar trechos de texto que estavam ocultos e continham instruções maliciosas. Essa capacidade de detecção de elementos camuflados é crucial para desmascarar manipulações que não seriam facilmente perceptíveis ao olho humano.
Em seguida, o sistema agiu de forma dupla: emitiu um alerta em destaque para o usuário, que neste caso era o juiz responsável pelo processo, detalhando a ocorrência técnica. Simultaneamente, o Galileu impediu que o comando malicioso fosse processado, neutralizando o ataque antes que pudesse influenciar a análise. É fundamental destacar que o sistema não toma decisões; ele se limita a relatar o fato técnico, sem qualificar a conduta ou sugerir punições. A decisão final, como a aplicação da multa, permanece sempre sob a responsabilidade do magistrado, cumprindo a exigência de supervisão humana no uso de IA pelo Judiciário, conforme diretrizes do Conselho Nacional de Justiça (CNJ).
Galileu: Um Aliado Inteligente para a Justiça, com Foco na Segurança
Concebido em 2023 e lançado em 2024 pelo TRT-4, o Galileu atua como um assistente inteligente para magistrados na elaboração de minutas de sentenças. A IA foi programada para ler e analisar documentos processuais, como petições iniciais, contestações e atas de audiências. A partir dessa leitura aprofundada, o sistema executa tarefas essenciais que otimizam o trabalho judicial.
Entre as funcionalidades do Galileu, destacam-se a sumarização dos pedidos das partes, a sugestão de uma estrutura para a sentença com a nominação dos capítulos a serem abordados, e a busca por fundamentação em um banco de dados interno e controlado, que inclui modelos e precedentes. A ferramenta gera apenas minutas e sugestões, que são obrigatoriamente revisadas, validadas, adaptadas ou rejeitadas pelo magistrado. Essa abordagem garante que o controle total sobre o conteúdo final permaneça com o juiz, liberando tempo para o trabalho jurisdicional mais complexo, como a análise de provas e a valoração de depoimentos.
A Evolução Contínua da Segurança em IA para o Judiciário
Desde sua concepção, o sistema Galileu foi desenvolvido com um foco rigoroso em segurança. Os desenvolvedores do TRT4 anteciparam a possibilidade de que terceiros tentassem influenciar o funcionamento da ferramenta, especialmente considerando que parte do conteúdo dos processos é apresentada por agentes externos. Por isso, mecanismos capazes de detectar textos ocultos em arquivos PDF, como letras na mesma cor do fundo, foram incorporados desde as fases iniciais de teste e continuam em constante evolução.
Para evitar que instruções maliciosas interfiram nas respostas geradas pela IA, o Galileu opera com diferentes níveis de proteção independentes. Antes mesmo de qualquer conteúdo ser analisado pelo modelo de inteligência artificial, os arquivos passam por uma triagem técnica em busca de sinais de adulteração. O sistema avalia desde artifícios simples até estratégias mais complexas, como injeção de comandos, engenharia social e uso de codificações para ocultação de instruções. A revisão humana é considerada a “camada mais importante” de proteção, garantindo que a decisão final seja sempre do magistrado, que analisa o conteúdo apontado e fundamenta sua atuação. A equipe do Galileu reconhece a crescente sofisticação das tentativas de manipulação e, por isso, o sistema passa por atualizações periódicas e testes de segurança baseados em referências internacionais, garantindo sua resiliência e confiabilidade.
Acompanhe o Portal Pai D’Égua para ficar por dentro das últimas notícias e análises sobre tecnologia, justiça e outros temas relevantes que impactam o seu dia a dia. Nosso compromisso é trazer informação de qualidade, contextualizada e aprofundada, para que você esteja sempre bem informado sobre os acontecimentos no Brasil e no mundo.
