Deixar um humano no comando para revisar o que a inteligência artificial (IA) decide virou a principal rede de segurança das empresas que adotam a tecnologia. A lógica parece sólida: a máquina sugere, a pessoa confere. Só que um novo estudo mostra que essa rede tem buracos — e que, na prática, até especialistas experientes deixam passar erros que dificilmente aceitariam de um colega humano.
O experimento: notas trocadas de propósito
A pesquisa foi publicada em junho de 2026 na PNAS Nexus, revista científica ligada à Academia Nacional de Ciências dos Estados Unidos, sob o título 'Why do experts miss AI's errors?' (em tradução livre, 'Por que os especialistas deixam passar os erros da IA?'). Os autores recrutaram professores na ativa, na Grécia, e pediram que revisassem correções de redações de alunos. O detalhe é que algumas notas haviam sido propositalmente alteradas para ficarem erradas.
A sacada do estudo foi dividir os participantes em dois grupos. Metade recebia as sugestões de correção rotuladas como vindas de uma pessoa; a outra metade via exatamente as mesmas sugestões, mas com o selo de 'inteligência artificial'. Como o conteúdo era idêntico, qualquer diferença no comportamento dos professores revelaria o peso do rótulo — e não da qualidade da recomendação.
O que é 'viés de automação'
O fenômeno por trás do resultado tem nome: viés de automação. É a nossa tendência de confiar mais em algo que veio de um sistema automatizado do que no nosso próprio julgamento. Na prática, o 'selo tecnológico' cria a sensação de que a máquina é neutra e infalível — e isso baixa a guarda de quem deveria revisar.
Não é exclusividade de professores. O mesmo padrão já foi observado em áreas como medicina e aviação, onde profissionais qualificados às vezes seguem a recomendação automática mesmo quando há sinais de que ela está errada. O selo de 'IA' funciona como um atalho mental: se a máquina disse, deve estar certo.
O resultado que acende o alerta
Quando a nota sugerida era injustamente severa e vinha com o rótulo de IA, os professores tendiam a aceitá-la com menos resistência. O efeito foi medido: a 'brecha de justiça' — o quanto a nota final se afastava do que seria justo — ficou cerca de 22% maior nesse grupo, em comparação com quem achava estar seguindo uma sugestão humana.
Curiosamente, o oposto não aconteceu. Quando a sugestão era boazinha demais (leniente), o rótulo de IA não fez diferença estatística. Ou seja: as pessoas baixaram a guarda diante de uma punição dura assinada por um algoritmo, mas continuaram desconfiadas de uma generosidade automática.
- Estudo publicado em junho de 2026 na revista científica PNAS Nexus.
- Participantes: professores em atividade, na Grécia, avaliando redações de alunos.
- Mesma sugestão, rótulos diferentes: 'humano' para metade, 'IA' para a outra.
- Sugestão dura com selo de IA: injustiça nas notas cerca de 22% maior.
- Sugestão leniente: o rótulo de IA não mudou o comportamento de forma relevante.
Por que isso importa pra você
A IA está deixando de ser novidade e virando parte invisível de decisões que afetam a vida real: triagem de currículos, análise de crédito, diagnósticos médicos, atendimento ao cliente e avaliação de desempenho. O discurso de que 'tem sempre um humano revisando' soa tranquilizador — mas o estudo sugere que esse humano pode estar confiando demais na tela e revisando menos do que imagina.
Para quem usa IA no trabalho, o recado é direto: o problema não é só a máquina errar, é a gente parar de checar. Quanto mais o sistema parece competente, maior a tentação de aprovar no automático — justamente quando um olhar crítico faria mais falta.
Como reduzir o risco
Os autores e outros especialistas da área apontam alguns caminhos práticos para não cair na armadilha do excesso de confiança:
- Tratar toda recomendação da IA como um rascunho, não como veredito final.
- Criar rotinas de conferência por amostragem, em vez de revisar só quando algo 'parece estranho'.
- Treinar as equipes para reconhecer o viés de automação — saber que ele existe já ajuda a resistir.
- Cobrar transparência das ferramentas: entender de onde veio a sugestão facilita questioná-la.
Nada disso é argumento contra a inteligência artificial — ela continua útil e veio para ficar. O ponto é que a supervisão humana só funciona como rede de segurança se a pessoa realmente olhar para baixo antes de pisar. Confiar é bom; conferir é melhor.
Fontes: estudo 'Why do experts miss AI's errors? Evidence from a randomized labeling experiment', publicado na PNAS Nexus (academic.oup.com/pnasnexus), e reportagem do Olhar Digital sobre a pesquisa (olhardigital.com.br).