O Superior Tribunal de Justiça (STJ) impôs uma multa de R$ 20 mil a advogados que utilizaram uma técnica conhecida como ‘prompt injection’ para tentar manipular a inteligência artificial (IA) empregada pelo tribunal. A prática consistiu na inserção de comandos ocultos em uma petição, com o objetivo de influenciar as respostas e análises da IA a favor de sua argumentação. Essa decisão representa um marco significativo, sinalizando que a Justiça brasileira está atenta às tentativas ilícitas de interferir em suas estruturas tecnológicas.
A 1ª Turma do STJ não apenas aplicou a multa, considerada a maior já imposta pelo tribunal em um caso dessa natureza, mas também determinou o envio das peças processuais à Ordem dos Advogados do Brasil (OAB) do Paraná e ao Ministério Público Federal (MPF) para avaliação de possíveis sanções administrativas e implicações criminais. O caso sublinha a crescente necessidade de regulamentação e ética no uso de IAs, especialmente em ambientes tão críticos quanto o Judiciário.
O que você precisa saber
- Multa Histórica: O STJ aplicou a maior multa de R$ 20 mil a advogados por tentar manipular a IA do tribunal.
- Técnica de Manipulação: Os advogados usaram ‘prompt injection’, inserindo comandos ocultos em uma petição para influenciar a análise da inteligência artificial.
- Comandos Invisíveis: As instruções foram escondidas em faixas decorativas do rodapé, na mesma cor do fundo, impossibilitando a leitura a olho nu.
- Impacto Potencial: A manipulação buscava induzir a IA a favorecer os argumentos dos advogados, alterando a interpretação de documentos e as recomendações geradas.
- Consequências Abrangentes: Além da multa, o caso foi encaminhado à OAB e ao Ministério Público Federal para investigações adicionais.
A Mecânica do ‘Prompt Injection’ e a Tentativa de Manipulação
O ‘prompt injection’ é uma técnica que explora a maneira como os modelos de linguagem de inteligência artificial processam as informações. Basicamente, consiste em inserir instruções não solicitadas dentro de um texto, com a intenção de desviar ou direcionar a resposta do sistema. No contexto jurídico, isso significa que, em vez de a IA apenas analisar o conteúdo de uma petição de forma imparcial, ela poderia ser induzida a seguir ordens veladas, alterando o resultado de sua tarefa.
No caso específico julgado pelo STJ, os advogados foram além de uma simples inserção. Eles distribuíram os comandos ocultos em diversos pontos de uma página do recurso especial. A parte mais engenhosa da manipulação foi a inserção de instruções em uma faixa decorativa do rodapé, utilizando a mesma cor do elemento gráfico. Isso tornava os comandos invisíveis a olho nu, mas detectáveis por sistemas de IA programados para ler todo o conteúdo textual, independentemente da formatação visual.
As instruções eram bastante diretas em seu objetivo: pedir que a IA considerasse que o acórdão questionado desrespeitava os limites da coisa julgada e que o recurso deveria ser integralmente aceito. Essa tentativa explícita de enviesar a análise da IA demonstra uma sofisticação na manipulação que levanta sérias questões sobre a segurança e a integridade dos sistemas judiciais que empregam a tecnologia.
Riscos para a Integridade das Decisões Judiciais
A utilização de inteligência artificial no Judiciário brasileiro tem crescido, com sistemas sendo empregados para auxiliar na análise de documentos, síntese de informações, identificação de precedentes e até na elaboração de minutas. Embora essas ferramentas prometam maior celeridade e eficiência, casos como o do STJ evidenciam os riscos inerentes à sua implementação sem salvaguardas robustas.
Quando uma IA é usada para examinar documentos jurídicos, comandos maliciosos como os empregados pelos advogados podem comprometer a análise em diversas frentes. A interpretação de argumentos pode ser distorcida, resumos podem ser enviesados e as recomendações produzidas para auxiliar o trabalho humano podem ser influenciadas de forma indevida. Isso não apenas compromete a confiabilidade das informações geradas pelo sistema, mas também pode, em última instância, afetar a equidade e a justiça das decisões.
O ministro Paulo Sérgio Domingues, relator do caso, classificou a conduta como de “gravidade acentuada”, ressaltando a importância de uma “resposta à altura” por parte do tribunal. A multa elevada e o encaminhamento do caso a outras instâncias regulatórias e criminais reforçam a seriedade com que o Judiciário brasileiro encara a proteção de sua infraestrutura tecnológica contra manipulações.
Distinção entre Uso Legítimo e Manipulação Ilícita da IA
É fundamental destacar que a decisão do STJ não proíbe o uso de inteligência artificial por advogados na elaboração de documentos jurídicos. Pelo contrário, o tribunal fez questão de distinguir o uso legítimo da tecnologia como ferramenta de apoio – que pode aumentar a eficiência e a qualidade do trabalho – da inserção clandestina de comandos destinados a influenciar o sistema empregado pelo órgão julgador.
A mensagem é clara: o Judiciário brasileiro não pretende coibir a inovação tecnológica no âmbito jurídico, mas sim impedir que essas ferramentas sejam empregadas de maneira ilícita para transmitir comandos velados à inteligência artificial do tribunal, com o objetivo de afetar sua estrutura tecnológica e, consequentemente, a imparcialidade do processo. Essa diferenciação é crucial para que a comunidade jurídica possa continuar explorando o potencial da IA de forma ética e responsável.
O caso do STJ não é isolado. A fonte menciona que o Supremo Tribunal Federal (STF) já havia multado um advogado por motivo semelhante, em decisão do ministro Alexandre de Moraes, indicando uma tendência da Justiça brasileira em combater essas práticas. A evolução do uso de IA no Judiciário, tanto por parte dos tribunais quanto por advogados, exigirá um acompanhamento constante e a criação de novas diretrizes para garantir que a tecnologia sirva à justiça e não à manipulação.
Este episódio reforça a necessidade de advogados, e de todos os profissionais do direito, estarem cientes das implicações éticas e legais do uso de novas tecnologias. A transparência e a boa-fé continuam sendo pilares inegociáveis do sistema jurídico, mesmo diante das inovações que a inteligência artificial traz.
Fontes consultadas
- Fonte 1 informada ao ViralNews pelo sistema de curadoria automatizada
