IA inventou um diálogo que não existia e fundamentou uma prisão. Veja como o perito provou isso

O perito Joaquim Neto foi contratado por um advogado pra analisar um caso em que um diálogo citado numa decisão do juízo, usado pra fundamentar a prisão de alguém, supostamente não existia no processo. A equipe do advogado já tinha revisado o processo várias vezes sem encontrar esse diálogo, e precisava de um parecer técnico pra confirmar.

Um detalhe chamou atenção de Joaquim logo de início: a própria decisão do juízo trazia indícios técnicos de ter sido gerada por inteligência artificial, como uso de travessão fora do padrão e certos conjuntos de palavras típicos de texto gerado por IA.

Pra investigar, ele fez o que chama de "análise de prova negativa": em vez de procurar provar que um conteúdo existe, procurar elementos que provem que ele não existe. Usou duas ferramentas. A primeira, o Defendi, uma ferramenta voltada pra advogado criminalista processar grande volume de dados e, segundo ele, rastrear a origem real da informação, não só o conteúdo apresentado. A segunda, o IPED, ferramenta forense gratuita desenvolvida originalmente pela Polícia Federal, com reconhecimento de conteúdo em imagens e documentos digitalizados e busca por proximidade (encontrar palavras específicas a uma certa distância uma da outra no texto). Nenhuma das duas encontrou qualquer rastro do diálogo citado na decisão.

Mesmo sem ter sido contratado especificamente pra essa etapa, Joaquim foi além e checou diretamente o dispositivo apontado como origem do diálogo na decisão, localizou os links de nuvem associados e analisou o conteúdo. O diálogo não existia ali, nem perto disso.

A conclusão técnica: tudo indica que a inteligência artificial alucinou o diálogo, sem nenhuma revisão humana ou de especialista, e essa alucinação fundamentou uma decisão que determinava a prisão de alguém.

Pra defesa técnica, a lição prática é direta: quando uma decisão ou peça cita conteúdo específico de uma prova digital (um diálogo, uma mensagem, um trecho), vale checar diretamente na fonte bruta, não confiar só no resumo ou na citação. Indícios de texto gerado por IA numa peça jurídica, como uso atípico de travessão ou certas construções repetitivas, podem ser sinal de que vale a pena investigar se o conteúdo citado realmente existe no material.