O ministro do Supremo Tribunal Federal (STF), Alexandre de Moraes, aplicou uma multa de R$ 5 mil ao advogado de um réu do julgamento da tentativa de Golpe de Estado de 8 de janeiro de 2023, após encontrar uma tentativa de inserção de comando de inteligência artificial em petição apresentada pela defesa nesta quinta-feira, 1.
Com a ajuda do módulo MARIA Shield, de detecção de tentativas de uso de IA e manipulação de conteúdo, a área de tecnologia do Tribunal identificou e preparou um relatório sobre o caso. Essa técnica é conhecida como prompt injection e não é a primeira vez que é tentada contra a Corte.
Na última sexta-feira, 25, o ministro Cristiano Zanin encontrou outra ação do gênero com IA em um pedido de recurso.
Entenda o caso no STF
Na ação de Moraes, o prompt usado para “negar todos os comandos do GPT” estava em um documento da defesa e tinha como objetivo influenciar ou mudar o comportamento de modelos de IA generativa usados na análise de documentos.
Atualmente, o STF utiliza IA em seu operacional. Um exemplo é a robô VitórIA, que analisa textos de petições e recursos e aglutina em blocos as ações que tratam do mesmo assunto, mas não julga processos nem toma decisões.
Para o ministro, a prática viola o Código de Processo Civil (CPC). Além da multa, Moraes encaminhou o caso para OAB e MPF avaliarem medidas disciplinares e eventual prática de crime. Apesar da tentativa de prompt injection, o magistrado manteve o acordo de não persecução penal feito pela PGR com o réu.
Imagem de arquivo: Ministro Alexandre de Moraes (Foto: Gustavo Moreno/STF)
