Ó Colégio de Presidentes das Seccionais das OABs e o Jusbrasil lançaram na última sexta-feira, 26, uma ferramenta gratuita para identificar indícios de comando invisível (ou “prompt injection”, como é conhecido o termo em inglês) em documentos jurídicos.
A prática, como já mostraram reportagens do Estadãoconsiste na tentativa deliberada de inserir instruções ocultas em documentos com o propósito de manipular sistemas de inteligência artificial (IA). Essa técnica induz a tecnologia a fornecer respostas compatíveis com os interesses do fraudador em vez de seguir o que foi pedido pela pessoa que submeteu o documento à análise.
A plataforma, disponível no endereço ia.jusbrasil.com.br/detectorpermite que advogados analisem documentos jurídicos em busca de comandos ocultos capazes de influenciar o comportamento de sistemas de inteligência artificial.
A estátua da Justiça, diante do STF Foto: Marcelo Casal Jr./Agência Brasil
Para Rafael Lara, presidente da OAB Goiás e coordenador do Colégio de Presidentes de Seccionais da OAB, a Ordem tem o dever de se antecipar a esse problema:
“Essa ferramenta nasce da constatação de uma necessidade real da advocacia e segue parâmetros de segurança e acessibilidade. É uma solução tecnicamente eficaz e segura, do ponto de vista da proteção de dados. Esse equilíbrio entre inovação e responsabilidade orienta o trabalho.”
A iniciativa surgiu após o juiz Luiz Carlos de Araujo Santos Junior, do Tribunal Regional do Trabalho da 8.ª Região (TRT-8), condenar as advogadas Alcina Cristina Medeiros Castro e Luanna de Sousa Alves por atentado à dignidade da Justiça pela tentativa de manipular a IA utilizada na análise de processos pela Corte.
As advogadas inseriram um comando oculto em uma das petições apresentadas no caso. O texto foi digitado na cor branca sobre fundo branco, o que impedia a leitura por servidores que revisam o trabalho da IA, e orientava que a tecnologia analisasse o material apresentado de forma superficial, sem contestar os documentos juntados aos autos.
De acordo com os criadores, na prática, a plataforma permite que o profissional do direito verifique previamente se o arquivo contém elementos potencialmente maliciosos antes mesmo do protocolo ou compartilhamento.
“Nós existimos para que os profissionais do Direito tenham uma ferramenta confiável de trabalho. Quando vimos que os documentos podiam carregar instruções ocultas que colocam em risco o ecossistema jurídico, percebemos que poderíamos contribuir. A plataforma é pública, gratuita para verificação, e nenhum documento submetido é usado para treinar nossos modelos”, diz Luiz Paulo Pinho, cofundador do Jusbrasil.
