Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err

A leitura do Thiago

Esse é, na minha experiência, o estudo que mais explica por que pilotos de IA morrem na largada dentro das empresas. Dietvorst mostrou em laboratório algo que vejo toda semana no chão da operação, as pessoas perdoam o erro humano e não perdoam o erro da máquina. No momento em que o modelo escorrega uma vez, mesmo acertando mais que o melhor analista, o time decreta que ele não serve e volta para a planilha.

A trava aqui não é técnica, é emocional. Erro de máquina parece traição, erro de gente parece esforço. Para destravar, eu nunca apresento a IA como infalível, isso só aumenta a queda quando ela falha.

Eu calibro a expectativa antes, mostro a taxa de acerto comparada lado a lado com a humana e combino com o time o que vamos fazer quando, não se, ela errar. Quando o executivo entende que está comparando um sistema que erra 8 por cento contra um humano que erra 15, e não contra a perfeição imaginada, a aversão cede. O inimigo não é o algoritmo, é a fantasia de perfeição que projetamos nele.