STJ investiga uso de IA para fraudar sistema de petições

O Superior Tribunal de Justiça (STJ) abriu oficialmente, nesta quarta-feira (20), um inquérito policial e um procedimento administrativo interno para apurar tentativas de fraude no sistema eletrônico de peticionamento da Corte. A investigação foi motivada pela identificação de petições contendo técnicas de prompt injection, um mecanismo utilizado para tentar manipular modelos de inteligência artificial que auxiliam na triagem e no processamento de documentos judiciais.

A prática consistia na inserção de comandos ocultos dentro dos textos das petições. O objetivo dos autores, segundo técnicos do tribunal, seria forçar a plataforma a ignorar filtros de segurança e requisitos de admissibilidade, permitindo que documentos sem conformidade técnica ou jurídica fossem indevidamente aceitos pelo sistema.

Segurança e integridade do sistema

Apesar das tentativas de fraude, o tribunal assegurou que não houve comprometimento do fluxo processual. O sistema de segurança do STJ já conta com travas robustas que bloqueiam a execução de comandos externos maliciosos, impedindo que a inteligência artificial responda às instruções injetadas pelos advogados ou escritórios envolvidos na manobra.

A determinação de investigar a origem desses comandos partiu diretamente do presidente do STJ, ministro Herman Benjamin. O inquérito busca identificar os responsáveis pelas tentativas de invasão e, caso confirmada a autoria, os profissionais e escritórios poderão enfrentar sanções administrativas e criminais.

O desafio da IA no Judiciário

O incidente coloca em evidência os riscos associados à adoção de tecnologias de automação no sistema de Justiça. O uso de técnicas como o prompt injection representa uma nova fronteira de ataques cibernéticos, onde o alvo não é a infraestrutura de rede, mas a lógica de processamento da própria IA. O STJ reforçou que continuará a aprimorar suas ferramentas de defesa para garantir a imparcialidade e a integridade de seus processos eletrônicos.