O Supremo Tribunal Federal (STF) identificou o uso do Prompt Injection, também chamada de comando oculto, em uma petição judicial para influenciar a inteligência artificial usada pela Corte e gerar decisão favorável a uma das partes. O caso é referente à nomeação de uma servidora pública ao cargo de oficial do Ministério Público de Minas Gerais (MPMG), que foi anulada.
No documento havia instruções ocultas, com fonte reduzida e na cor branca, além de palavras fragmentadas para induzir as ferramentas de auxílio usadas pelos ministros. A prática, no entanto, foi identificada pelo Maria Shield, da IA Maria, sistema usado pelo STF para apoio e análises processuais.
Segundo a Corte, o mecanismo de burla foi usado em vão e não influenciou na decisão, já que o recurso foi julgado em 19 de agosto pelo ministro Cristiano Zanin, que afirmou não usar a tecnologia em análises de processos ou fundamentação de decisões.
A prática ilícita, no entanto, não passou impune. Além de manter a negativa, o ministro comunicou a Ordem dos Advogados do Brasil (OAB) para averiguar se houve infração ética-disciplinar do advogado responsável, o Ministério Público Federal para apurar se houve prática criminosa, além de ter multado em dois salários mínimos por violação do artigo 77 do Código de Processo Civil (CPC), que prevê o dever de lealdade processual.
