Justiça pune advogadas por tentativa de manipular IA com código oculto em processo

Justiça do Pará multa advogadas por inserirem comandos ocultos em petição com o objetivo de enganar o assistente de IA do tribunal. Sistema detectou a tentativa de fraude e emitiu alerta.

Duas advogadas que atuam no Pará foram penalizadas com uma multa de R$ 84,2 mil após utilizarem uma técnica conhecida como "prompt injection" para tentar manipular o assistente de inteligência artificial do Tribunal Regional do Trabalho da 8ª Região (TRT-8). A manobra consistia em inserir instruções ocultas em uma petição, redigidas com letras brancas sobre fundo branco, para que o sistema de IA, batizado de Galileu, realizasse uma análise superficial dos documentos e ignorasse possíveis falhas na argumentação da defesa.

O magistrado Luis Carlos de Araujo Santos Júnior, de Parauapebas, identificou a tentativa de fraude e classificou a conduta como um ato atentatório à dignidade da Justiça. O comando invisível ordenava explicitamente que a inteligência artificial não contestasse os documentos de forma rigorosa, independentemente de ordens contrárias dadas pelos servidores. O sistema de IA, no entanto, conseguiu identificar a tentativa de interferência ao processar o arquivo PDF e emitiu um alerta imediato aos responsáveis humanos.

Em nota oficial, as profissionais envolvidas negaram qualquer intenção de sabotar o processo judicial, alegando que o objetivo era resguardar o cliente contra possíveis erros da própria ferramenta automatizada. Elas manifestaram discordância quanto à punição aplicada e confirmaram que pretendem recorrer da decisão. O caso ganha relevância por expor vulnerabilidades cibernéticas no Judiciário, uma vez que a injeção de comandos é uma técnica comum em ataques de hackers para forçar sistemas a ignorar protocolos de segurança ou revelar dados sensíveis.