O sistema de segurança cibernética do Supremo Tribunal Federal (STF) identificou a primeira tentativa de fraude processual por meio de prompt injection em um processo da corte. O prompt injection é uma ferramentas de inteligência artificial usada para alterar análises processuais.
O caso envolve um recurso de relatoria do ministro Cristiano Zanin e foi detectado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF.
A tentativa consistiu na inserção, em duas páginas da peça processual, de comandos ocultos destinados a sistemas de inteligência artificial. Os trechos foram escritos em letras brancas e em tamanho reduzido, de forma imperceptível na leitura convencional. Havia ainda uma fragmentação incomum das palavras, aparentemente para dificultar a identificação dos comandos. O objetivo era alertar a decisão do ministro.
A fraude não teve efeito prático porque o gabinete de Zanin não utiliza ferramentas de inteligência artificial para análise ou fundamentação de processos.
O caso está no agravo apresentado por uma servidora pública negra contra decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. A defesa sustenta que a candidata que a substituiu, branca, teria se beneficiado de manobras processuais para burlar o sistema de cotas raciais.
Em 19 de agosto, Zanin negou o recurso com base na jurisprudência do STF que impede o reexame de fatos e provas em recurso extraordinário. Ao encaminhar o caso para julgamento da Primeira Turma, o ministro classificou a inserção dos comandos como uma tentativa de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”.
Para Zanin, a prática viola o dever de lealdade processual previsto no Código de Processo Civil. O ministro aplicou multa equivalente a dois salários mínimos e determinou o envio do caso à OAB, para apuração de eventual infração ético-disciplinar do advogado, e ao Ministério Público Federal, para verificar possível prática de crime.
O caso será analisado pela Primeira Turma do STF em plenário virtual, a partir desta sexta-feira (25).
Fonte: Coluna da Bela Megale