Thinking, Fast and Slow

A leitura do Thiago

Kahneman, Nobel de Economia, nos deu o mapa mental que explica boa parte dos perigos da IA, mesmo tendo escrito muito antes dela existir. Sua tese, dois sistemas governam nossa mente. O Sistema 1 é rápido, automático, intuitivo, emocional, ele opera sem esforço e adora atalhos.

O Sistema 2 é lento, deliberado, analítico, ele cansa e por isso preferimos evitá-lo. O problema é que o Sistema 1 vive cometendo erros sistemáticos, os vieses, e o Sistema 2, preguiçoso por natureza, costuma aceitar o que o primeiro entrega sem conferir. Agora traga a IA para dentro desse modelo e o alerta acende.

A IA generativa produz respostas extremamente fluentes, articuladas, confiantes. Essa eloquência é o gatilho perfeito para o Sistema 1, ela soa tão certa que dispara nossa aceitação automática e desliga o Sistema 2 justamente quando ele seria mais necessário. É a tese da casa em sua raiz cognitiva.

Usar IA do jeito errado significa entregar o volante ao Sistema 1, aceitar o convincente sem ativar o crítico. Usar do jeito certo é o oposto, tratar toda resposta fluente como convite a acionar o Sistema 2, duvidar, verificar, raciocinar. Kahneman não falou de IA, mas escreveu o manual para não ser enganado por ela.