STJ abre inquérito para investigar manipulação de IA em documentos jurídicos
Corte investiga uso de comandos ocultos em petições para tentar manipular o sistema STJ Logos e obter vantagens processuais.
O Superior Tribunal de Justiça investiga o uso de comandos ocultos em processos para manipular sistemas de inteligência artificial e tentar fraudar decisões judiciais.
O Superior Tribunal de Justiça (STJ) deu início a uma investigação oficial para apurar o uso de táticas de manipulação tecnológica em documentos processuais. O foco da apuração é a técnica conhecida como "prompt injection", que consiste em inserir instruções ocultas em arquivos digitais com o objetivo de confundir sistemas de inteligência artificial. A presidência da Corte determinou a abertura de inquérito administrativo e criminal para identificar advogados e escritórios que teriam tentado fraudar o sistema judiciário por meio desses comandos invisíveis.
A manobra funciona através da inserção de frases estratégicas em documentos, muitas vezes configuradas com fontes brancas sobre fundo branco, tornando-as imperceptíveis ao olho humano, mas legíveis para algoritmos. No caso analisado, as mensagens instruíam a IA a realizar análises superficiais ou ignorar falhas em petições. Um levantamento inicial já apontou a presença dessa técnica em pelo menos 11 processos de natureza criminal que tramitam no tribunal, acionando o alerta das autoridades para possíveis tentativas de obter vantagens ilícitas nas decisões.
Apesar das tentativas de fraude, o ministro Herman Benjamin, presidente do STJ, assegurou que o sistema de inteligência artificial utilizado pelo tribunal, o "STJ Logos", possui camadas de proteção que impedem a execução de ordens externas maliciosas. Recentemente, um caso similar no Pará resultou em multas pesadas para advogadas que tentaram sabotar a ferramenta "Galileu", da Justiça do Trabalho. O STJ reforçou que continuará monitorando todas as petições para aplicar as sanções cabíveis e garantir a integridade dos processos judiciais.
