Um juiz lê uma petição, tenta localizar a jurisprudência citada e não encontra nada. O motivo: ela foi criada por uma inteligência artificial (IA) que, ao ser pressionada por uma resposta, simplesmente inventou fatos, números de processos e todos os detalhes.

A situação não é apenas hipotética. Casos semelhantes já aconteceram no Paraná, em São Paulo e em outros países, como nos Estados Unidos e na Austrália, gerando alertas e até punições aos advogados responsáveis por apresentar as peças à Justiça.

Os casos ocorrem em um contexto no qual a IA generativa vem se popularizando: 77% dos profissionais de Direito, por exemplo, usam a tecnologia com frequência. O dado é de uma pesquisa feita pela Ordem dos Advogados do Brasil — Seção São Paulo (OAB SP), Trybe, Jusbrasil e Instituto de Tecnologia e Sociedade do Rio (ITS Rio), noticiada pela Exame.

"Segundo vários relatos, as pessoas têm utilizado a IA como uma forma de facilitador do trabalho. Só que as inteligências podem gerar ‘alucinações’ se não tiverem sido formatadas ou configuradas da forma correta", afirma José de Souza Junior, advogado e diretor do Grupo RG Eventos. Ele é especialista em IA e segurança cibernética, com experiência na proteção cibernética de eventos internacionais, como a COP30.

Na prática, os modelos de linguagem das IAs funcionam prevendo qual palavra vem a seguir em uma sequência textual. Quando não têm a resposta certa, eles não dizem "não sei", mas constroem uma resposta minimamente plausível, pontua Souza Junior. No campo jurídico, isso pode significar a citação de um acórdão que nunca existiu, redigido com linguagem técnica perfeita, detalha o especialista.

Além das sugestões jurídicas, Souza Junior chama atenção para o risco à confidencialidade das informações inseridas nessas ferramentas. Isso porque, em muitos casos, processos contêm informações sigilosas que são compartilhadas com as IAs, como dados do cliente, detalhes da estratégia defensiva, provas ainda não juntadas aos autos e informações empresariais delicadas.

Ao alimentar um modelo de linguagem com esse conteúdo sem verificar sua política de uso de dados, o profissional pode estar inadvertidamente tornando essas informações disponíveis para retreinamento de modelos ou armazenamento em servidores externos.

"Isso pode gerar alguns problemas, pois já houve vazamentos de informações na rede. É algo que traz riscos para a estratégia do processo, podendo prejudicar o advogado e o cliente", alerta o diretor do Grupo RG Eventos.

Souza Junior lembra que, em 2024, o Conselho Federal da OAB editou a Recomendação 001/2024, que estabelece diretrizes para o uso de inteligência artificial generativa na prática jurídica. O documento exige entendimento adequado das limitações da ferramenta, verificação rigorosa das informações geradas, transparência com clientes e vedação à delegação de atos privativos do advogado sem supervisão qualificada.

"A norma, no entanto, não tem força de lei. É uma recomendação. E os casos multiplicados nos tribunais indicam que boa parte da classe ainda não a incorporou à rotina. Em pelo menos dois processos documentados, os relatos apontam que advogados transferiram a responsabilidade pela pesquisa jurídica inteiramente a ferramentas de IA sem qualquer revisão posterior", diz o especialista.

Por outro lado, a solução não está em banir o uso da IA no Direito, defende Souza Junior. Ele diz que é necessário ter uma preparação técnica e cultural para utilizar a tecnologia com responsabilidade.

"A IA trouxe uma transformação que não deixará de existir, mas ela tem que ser usada com conhecimento técnico da pessoa para fazer revisão e checar as informações antes que a peça saia do escritório e chegue ao juiz, garantindo a veracidade do conteúdo e a proteção de dados", salienta Souza Junior.

Na prática, segundo a especialista, a IA generativa deve ser vista mais como uma assistente do que a mente por trás do processo. Portanto, sempre que ela trouxer uma informação nova, cabe ao advogado checar em fontes oficiais, como nos arquivos do Supremo Tribunal Federal (STF), do Superior Tribunal de Justiça (STJ) e diretamente nas leis.

Outra orientação dada pelo especialista é anonimizar os dados ao inseri-los na IA. Ou seja, em vez de escrever o nome da empresa, os números dos processos ou valores financeiros, o advogado pode usar "empresa A" e "quantia X", prevenindo-se contra possíveis vazamentos, e fazendo os ajustes necessários posteriormente de maneira manual.

Para saber mais, basta acessar o blog do Grupo RG Eventos e seu Instagram.