Um policial do condado de Derbyshire, no Reino Unido, virou alvo de uma investigação criminal sob a suspeita de ter usado inteligência artificial para fabricar provas em diferentes processos judiciais. O caso, revelado pelo jornal britânico The Guardian, é apontado como o primeiro do tipo no sistema de Justiça do país — e levanta uma pergunta que vai muito além das delegacias: até que ponto dá para confiar em algo que foi gerado por uma máquina?
O que se sabe até agora
Segundo a polícia de Derbyshire, o agente foi afastado das funções de linha de frente enquanto a apuração avança. A investigação trata a conduta como uma possível tentativa de adulterar o curso da Justiça, ou seja, interferir indevidamente em processos que estavam em andamento. Até o momento não houve prisões, e detalhes como a identidade do servidor, os casos afetados e qual ferramenta de IA teria sido usada não foram divulgados.
A corporação informou que está trabalhando em conjunto com o Crown Prosecution Service — o órgão responsável por conduzir as ações penais no Reino Unido, equivalente ao nosso Ministério Público — para avaliar se algum processo já julgado ou em curso pode ter sido contaminado por essas provas. O temor é claro: se uma evidência foi inventada por um programa, decisões inteiras podem estar apoiadas em uma base falsa.
Por que uma IA "inventa" uma prova
Para entender o risco, vale lembrar como funcionam as ferramentas de IA generativa, como os assistentes de texto e imagem que viraram febre. Elas não consultam um banco de fatos verificados: elas calculam qual é a próxima palavra (ou o próximo traço de uma imagem) mais provável a partir do pedido feito. Quando não têm a informação, muitas vezes preenchem a lacuna com algo que parece convincente, mas é falso. Esse fenômeno tem até nome no setor: "alucinação".
É por isso que um texto gerado por IA pode citar uma lei que não existe, um depoimento que nunca foi dado ou uma foto que nunca foi tirada — tudo com aparência impecável. Em um relatório de trabalho, isso gera um erro chato. Em um processo criminal, pode condenar um inocente ou inocentar um culpado.
As polícias britânicas já estão recuando
O episódio de Derbyshire não é um ponto fora da curva isolado. O responsável pelo centro de IA do National Police Chiefs' Council, organismo que coordena as forças policiais do país, afirmou que algumas corporações já foram orientadas a parar de usar sistemas automatizados na redação de declarações e documentos destinados aos tribunais, justamente por causa de dúvidas sobre a confiabilidade dessas ferramentas.
Em paralelo, a Polícia Metropolitana de Londres conduz apurações internas sobre o uso de tecnologia de análise de dados para monitorar a conduta dos próprios agentes — um movimento que, neste caso, vai na direção oposta: usar a tecnologia para flagrar irregularidades, e não para criá-las.
O que esse caso ensina para o seu dia a dia
Você provavelmente não vai forjar provas num tribunal, mas a lição central serve para qualquer pessoa que já pediu uma resposta a um chatbot. Alguns hábitos simples ajudam a não cair na armadilha:
- Trate a IA como um ponto de partida, não como a palavra final: ela rascunha bem, mas erra com confiança.
- Confira nomes, números, datas, leis e citações em uma fonte original antes de repassar adiante.
- Desconfie de respostas perfeitas demais, sobretudo quando você não tem como verificar a origem.
- Em decisões sérias — jurídicas, médicas ou financeiras — a checagem humana não é opcional.
A inteligência artificial é uma ferramenta poderosa para acelerar tarefas, e ignorá-la não é o caminho. O recado do caso britânico é outro: quanto mais sensível a decisão, mais a responsabilidade precisa continuar nas mãos de gente. A máquina sugere; quem assina, e responde, é você.
Fontes: reportagem original do The Guardian (theguardian.com) e cobertura em português do Olhar Digital (olhardigital.com.br), além de agências internacionais que repercutiram o caso.