O Superior Tribunal de Justiça determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de inteligência artificial em tentativas de fraude no sistema eletrônico de processos da Corte. A medida foi tomada após técnicos identificarem petições com comandos ocultos usados para tentar manipular ferramentas de IA durante a tramitação judicial.
A decisão partiu do presidente do tribunal, Herman Benjamin, que autorizou a abertura de um inquérito policial e também de um procedimento administrativo interno para investigar possíveis irregularidades cometidas por advogados e escritórios de advocacia.
Segundo o STJ, os casos envolvem uma técnica conhecida como “prompt injection”, utilizada para inserir comandos ocultos em documentos processuais. O objetivo seria induzir sistemas automatizados a ignorarem regras internas e favorecerem determinadas partes em processos judiciais.
Como funcionava a fraude
De acordo com técnicos do tribunal, os comandos eram inseridos de maneira invisível no texto das petições eletrônicas. Quando os sistemas de inteligência artificial realizavam a leitura dos documentos, as instruções tentavam alterar a análise automática feita pela plataforma.
Entre as tentativas identificadas estavam comandos para fazer o sistema ignorar filtros de admissibilidade, permitindo o envio de documentos sem os requisitos mínimos exigidos pela Justiça.
O STJ informou que os mecanismos de proteção da plataforma impediram que as ordens fossem executadas. Segundo a Corte, os sistemas possuem travas de segurança criadas justamente para neutralizar esse tipo de interferência.
Uso da IA no Judiciário
O caso reacendeu o debate sobre o avanço da inteligência artificial no sistema judiciário brasileiro. Nos últimos anos, tribunais passaram a utilizar ferramentas automatizadas para análise de documentos, organização processual e apoio técnico em decisões administrativas.
Especialistas apontam que o crescimento dessas tecnologias também amplia os desafios relacionados à segurança digital e ao uso ético da inteligência artificial dentro do Judiciário.
O presidente do STJ afirmou que todas as tentativas de manipulação serão registradas e poderão resultar em responsabilizações administrativas, civis e criminais para os envolvidos.
A investigação segue em andamento e deve identificar quantos processos foram alvo das tentativas de fraude e quais profissionais participaram da prática.
