Em sua coluna no jornal O Globo, meu pai publicou esta semana um texto sobre o caso Master.
Ele fala de bancos, auditores, distribuidores e reguladores que, diante de sinais incômodos, preferiram não fazer perguntas inconvenientes. Cada um decidiu ficar na parte que lhe cabia, olhando só para o pedaço que lhe foi dado. Pessoas com nome, formação, reputação construída ao longo de décadas. Narrativas elegantes para justificar o que fizeram.
Uma frase ficou comigo em especial. O antídoto para a banalidade do mal, escreveu meu pai citando Hannah Arendt, não está na lei. Está no pensamento. O mal se instala no vazio de quem abdicou de pensar.
Pensei nela por causa da inteligência artificial.
Não pelo motivo previsível. A IA está entre as tecnologias mais poderosas já criadas para ampliar o raciocínio humano, e talvez por isso mesmo carregue um risco diferente do que costumamos discutir: tornar confortável a decisão de não pensar.
Imagine uma cena qualquer. Uma pesquisadora termina meses de coleta de dados e pede à IA que ajude a interpretar os resultados. A resposta chega rápido, bem arrumada, com o padrão que faz mais sentido. Ela está cansada, atrasada para buscar a filha na escola. Lê na diagonal, ajusta o essencial e encaminha.
Ninguém errou nada visível, mas alguma coisa se perdeu pelo caminho. A pergunta inconveniente que ela teria feito se tivesse passado três tardes olhando para os dados em silêncio, a inquietação que costuma surgir quando o argumento é construído com as próprias mãos. O tipo de coisa que não cabe num prompt.
Há quanto tempo você não pega um problema do trabalho e fica nele um pouco antes de abrir uma IA? Comigo faz mais tempo do que devia.
Arendt percebeu isso ao acompanhar Eichmann: o mal prospera quando o julgamento individual cede lugar à lógica do procedimento. Décadas depois, Diane Vaughan estudou o desastre do Challenger e batizou o mesmo padrão. Normalização do desvio: pequenas concessões deixam de parecer concessões e viram rotina.
A IA carrega peculiaridades que pedem atenção redobrada. Nunca antes foi possível abdicar do pensamento em escala tão grande, com tanta intimidade (e eficiência) na rotina. E a resposta dela costuma chegar tão bonita, eloquente, com cara de quem pensou por horas a fio.
A fronteira entre usar e abdicar é mais fina do que parece.
Usar IA para pensar melhor é manter aceso o desconforto da pergunta, mesmo quando a primeira resposta chega bem arrumada. É pedir contradição e insistir nela, comparar caminhos, voltar ao problema antes de fechar a questão. Abdicar deixa a tela bonita decidir, aceita a fluidez como se fosse verdade e segue adiante porque a tarefa parece cumprida.
A diferença está numa pergunta que todo mundo pode fazer antes de aceitar a resposta: "O que estou abrindo mão de pensar agora?".
No dia 5 de maio, subo num palco com meu pai pela primeira vez na vida. Vai ser na Bett, o maior encontro de educação da América Latina, e o título do nosso painel é "Quem é você quando ninguém está olhando?". Cresci ouvindo meu pai pensar em voz alta sobre integridade e valores inegociáveis. Agora vou estar ao lado dele, no meu campo, dividindo a pergunta.
Hoje, ela carrega uma segunda camada. Quando uma máquina responde no seu lugar, ainda há alguém pensando do outro lado da tela?
