O Superior Tribunal de Justiça (STJ) decretou, nesta quarta-feira (20), a abertura de um inquérito para invetigar o uso de prompt injection (injeção de comando, em tradução livre) em processos na Corte. Trata-se de uma ferramenta utilizada para tentativas de manipulação de inteligências artificiais.
Segundo o site oficial do STJ, já haviam sido identificadas petições em seu acervo de processos com a utilização do prompt injection.
Em nota, o presidente do STJ, Herman Benjamin, defendeu a apuração e responsabilização dos envolvidos.
"O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos", declarou.
De acordo com o STJ, mesmo que o sistema receba petições com as injeções de comando ocultas, camadas de segurança e integridade impedem que essas ordens maliciosas sejam executadas.
O que é o prompt injection?
A expressão refere-se a uma técnica utilizada para enganar sistemas de IA, onde comandos são inseridos em documentos comuns, como petições ou recursos, de forma invisível ao olho humano.
Casos em quatro Estados
Conforme apuração realizada pelo g1, nesta semana, um grupo de advogados de Brasília compareceu no gabinete de quatro ministros do STJ para denunciar 11 projetos julgados pela corte que continham indícios de uso da artimanha.
Os casos criminais ocorreram nos Estados de São Paulo, Mato Grosso do Sul, Minas Gerais e Distrito Federal e também foram denunciados ao Conselho Nacional de Justiça (CNJ).
Petições foram entregues pelo grupo indicando as páginas e os processos para que o tribunal abra uma investigação.
