Trust Calibration in Human-AI Collaboration
Reposiciona a questão da confiança, o objetivo não é confiar mais ou menos na IA, é calibrar quando confiar e quando duvidar, evitando os dois extremos que destroem valor.
A leitura do Thiago
Esse trabalho corrige um erro de enquadramento que vejo em quase toda discussão sobre IA nas empresas. A pergunta não é você confia na IA, sim ou não. A pergunta certa é onde confiar e onde duvidar.
O estudo trata de calibração de confiança e mostra que existem dois venenos opostos. O overtrust, quando a pessoa aceita tudo que o modelo diz sem revisar e deixa passar erros graves, e o undertrust, quando desconfia de tudo, refaz manualmente e joga fora todo o ganho de produtividade. Os dois destroem valor por caminhos diferentes.
O profissional maduro em IA não é o que confia mais, é o que sabe exatamente em que tarefas o modelo é forte e em que tarefas ele precisa de auditoria humana. Na prática eu ensino o time a mapear isso, IA é excelente para rascunhar, sintetizar e gerar opções, e exige checagem humana para números, fatos sensíveis e julgamento de contexto. Calibração é uma habilidade que se desenvolve com uso deliberado e feedback, não um interruptor de liga e desliga.
O destravamento aqui é cognitivo, trocar a fé cega e a desconfiança cega por um mapa preciso de competências da máquina.
Valeu pelo feedback. Isso ajuda a afiar a biblioteca.