Um caso intrigante foi registrado na Justiça do Trabalho no estado do Pará que vem chamando bastante a atenção, pois envolve um suposto uso indevido de inteligência artificial (IA) em uma ação judicial.
As advogadas Alcina Medeiros e Luanna Alves, estão sendo investigadas após tentarem inserir comandos ocultos em documentos do processo, com o intuito de conseguir interferir na forma como sistemas de IA poderiam interpretar as informações.
De acordo com informações divulgadas sobre o caso, elas utilizaram de uma estratégia que é conhecida como “prompt injection”, essa técnica consiste em inserir umas instruções escondidas nos textos digitais para poder tentar direcionar o comportamento de ferramentas de inteligência artificial. No caso ocorrido, o comando teria sido incluído de forma não visível no documento processual.
Um magistrado acabou identificando o ocorrido durante uma análise da petição, o que levou à iniciar uma abertura para investigar e poder fazer a aplicação de penalidades. As advogadas chegaram a ser suspensas cautelarmente pela seccional da Ordem dos Advogados do Brasil no Pará por um período de 30 dias, enquanto o processo disciplinar está sendo apurado.
Segundo a decisão, essa prática é considerada como uma possível tentativa de manipulação dos sistemas que são utilizados no ambiente judicial, o que gerou um levantamento com discussões sobre ética, limites do uso de tecnologia e a segurança no uso de ferramentas de IA no Direito.
Como funciona essa técnica
O “prompt injection” funciona como uma espécie de instrução que fica escondida dentro de textos, e é capaz de influenciar as respostas dos sistemas automatizados se por acaso eles processem o conteúdo sem filtros adequados. No ocorrido o conteúdo teria sido inserido em uma petição trabalhista.
Esse episódio reacendeu um debate sobre a utilização da IA no sistema de Justiça, principalmente em um cenário onde tribunais brasileiros vêm adotando cada vez mais ferramentas tecnológicas para auxiliar na análise de processos e documentos.
FONTE: G1 NOTICIAS
Foto: Reprodução/ Freepik
