Os autores alertam para a técnica conhecida como “prompt injection”, que pode manipular o funcionamento de sistemas de IA usados em atividades como triagem de petições e auxílio à redação de minutas judiciais.

"Prompt injection é a inserção de instruções ocultas em petições, anexos, metadados ou links para manipular o comportamento de uma IA. Comandos embutidos em texto invisível, comentários HTML, caracteres de 'largura zero' ou campos de 'Title/Keywords' de arquivos podem induzir o sistema a priorizar teses, suprimir contrarrazões, rotular falsamente urgência ou sugerir minutas enviesadas”, explicam.

O texto destaca, ainda, os possíveis impactos institucionais e éticos decorrentes da manipulação da IA, com implicações para a imparcialidade e a segurança jurídica no processo.

"Para magistrados, o risco é institucional. Sistemas de triagem e auxílio à minuta, se expostos a dados maliciosos, podem aumentar falsos positivos de urgência, classificar incorretamente temas repetitivos e gerar rascunhos tecnicamente coesos, porém processualmente viciados", observam Badaró e Puppe.

Leia a íntegra do artigo