Prompt injection em processos judiciais: da ameaça teórica ao risco concreto

O recente episódio envolvendo a identificação de uma tentativa de prompt injection em um processo judicial em tramitação no Tribunal Regional do Trabalho da 4ª Região (TRT-4) trouxe ao debate um risco que tende a ganhar relevância à medida que se amplia o uso da inteligência artificial pelo Poder Judiciário.

A técnica consiste na inserção de comandos, muitas vezes ocultos, em documentos que poderão ser processados por sistemas de inteligência artificial. O objetivo é interferir no comportamento do modelo, induzindo-o a ignorar suas instruções originais, privilegiar determinada informação ou produzir uma resposta potencialmente manipulada.

O caso despertou uma preocupação adicional no escritório: estaríamos diante de um episódio isolado ou haveria outras ocorrências semelhantes espalhadas pelos tribunais?

A partir dessa questão, o Hub de Tecnologia e Inovação recebeu o desafio de desenvolver uma ferramenta capaz de realizar uma varredura nas bases processuais dos clientes do escritório em busca de padrões compatíveis com tentativas de prompt injection.

O resultado chamou a atenção. Em poucos dias, foram identificados mais de 60 processos com elementos compatíveis com esse tipo de interferência, o que indicou que o fenômeno poderia não estar restrito ao episódio que ganhou repercussão nacional.

Mais importante do que localizar esses casos, contudo, foi compreender que o problema não pode ser tratado apenas como uma curiosidade tecnológica. Trata-se de um novo vetor de risco para ambientes nos quais a inteligência artificial é utilizada como ferramenta de apoio à leitura, à classificação e à análise de documentos jurídicos.

A solução foi integralmente concebida pelo Hub de Tecnologia e Inovação, responsável pelo desenvolvimento das plataformas de automação e inteligência artificial utilizadas nas operações jurídicas do escritório. Em vez de recorrer exclusivamente a ferramentas prontas disponíveis no mercado, estruturamos um fluxo de segurança em múltiplas camadas, desenvolvido especificamente para as características do ambiente processual brasileiro.

O modelo realiza sucessivas etapas de validação antes que qualquer documento seja encaminhado para análise por inteligência artificial. Entre elas estão a identificação da natureza do arquivo, a validação da estrutura da petição, a análise de caracteres invisíveis, a identificação de controles bidirecionais de texto, conhecidos como Bidi, a detecção de comandos ocultos, o exame de metadados suspeitos, a busca por padrões conhecidos de prompt injection, a classificação automática de risco e o registro das verificações para fins de auditoria e rastreabilidade.

Diante de qualquer indício relevante, o documento é imediatamente retirado do fluxo automatizado e submetido à validação humana especializada. O objetivo não é apenas detectar possíveis ataques, mas impedir que instruções ocultas interfiram nas análises jurídicas realizadas com o auxílio de inteligência artificial.

Apesar dos avanços tecnológicos, permanece um desafio operacional significativo. Uma tentativa de prompt injection pode estar presente em qualquer documento do processo, e não apenas na petição inicial. O comando pode ser inserido em manifestações posteriores, petições intermediárias, memoriais, anexos ou documentos juntados ao longo da tramitação.

Uma verificação completa exigiria, portanto, a leitura integral de todos os documentos produzidos durante a vida do processo. Em operações jurídicas de grande escala, essa abordagem ainda representa um desafio computacional e operacional considerável.

No escritório, as equipes jurídicas são responsáveis por mais de quatro mil peticionamentos por dia. Diante desse volume, submeter retroativamente todos os documentos de todas as ações a um processo completo de inspeção seria operacionalmente inviável.

A estratégia adotada foi incorporar a verificação diretamente à esteira de trabalho. Cada novo documento recebido passa automaticamente pelas camadas de segurança antes de seguir para qualquer tratamento assistido por inteligência artificial. Essa abordagem permite ampliar a proteção do fluxo operacional sem comprometer a produtividade das equipes.

A discussão sobre prompt injection precisa, portanto, ultrapassar a esfera acadêmica e passar a integrar a prática operacional. Assim como o mercado desenvolveu soluções específicas para enfrentar ameaças como malware, phishing e ransomware, será cada vez mais necessário estabelecer mecanismos destinados a proteger os modelos de inteligência artificial utilizados em ambientes jurídicos.

Essa proteção não depende de uma única ferramenta. Ela exige uma arquitetura de governança que combine controles tecnológicos, supervisão humana, classificação de riscos, rastreabilidade das análises, protocolos de resposta e definição clara de responsabilidades.

A tendência é que, nos próximos anos, controles dessa natureza passem a integrar as rotinas de governança tecnológica de escritórios de advocacia, departamentos jurídicos, tribunais e demais órgãos públicos.

O objetivo não é impedir ou restringir o uso da inteligência artificial. Ao contrário. O desafio é criar as condições necessárias para que essa tecnologia seja utilizada em um ambiente seguro, auditável e confiável, preservando a integridade das análises jurídicas e a confiança nas decisões apoiadas por sistemas de inteligência artificial.

O texto acima expressa a visão de quem o assina, não necessariamente do Congresso em Foco. Se você quer publicar algo sobre o mesmo tema, mas com um diferente ponto de vista, envie sua sugestão de texto para [email protected].