Autora do recém-lançado livro (Des)Inteligência Artificial: como os computadores compreendem mal o mundo, a professora da Universidade de Nova York Meredith Broussard está preocupada em desconstruir o que ela chama de um dos maiores mitos modernos: a crença de que os computadores estão sempre certos. Escritora de códigos e histórias, a desenvolvedora de software e jornalista americana afirma que a tecnologia não pode ser encarada como uma solução completa para problemas sociais.
– As pessoas tão ansiosas para fazer tudo digitalmente, contratando, dirigindo, pagando contas, até escolhendo parceiros românticos,  que não estão preocupadas em exigir que as tecnologias realmente funcionem.

Tecnologia é a solução para melhorar o serviço público?

Nem sempre precisamos adicionar tecnologia para melhorar as coisas, e adicionar tecnologia não melhora as coisas automaticamente. No entanto, nas últimas duas décadas, muitas pessoas adquiriram o hábito de assumir que as soluções baseadas em computadores são melhores do que as baseadas em humanos. Realmente, deveríamos estar nos perguntando: "Qual é a ferramenta certa para a tarefa?". A ferramenta certa, às vezes, é um dispositivo móvel e, às vezes, as ferramentas certas são um papel e um lápis. Um não é melhor do que o outro. É tudo sobre contexto.

Você acha que a tecnologia ajuda a melhorar a democracia?

Adicionar mais tecnologia não resulta, necessariamente, em mais democracia. Por exemplo: quando a polícia usa as mídias sociais para a vigilância dos cidadãos, isso não ajuda a melhorar a liberdade individual. Muitas vezes, quando os algoritmos de aprendizado de máquina são usados para tomar decisões, as pessoas que escrevem os algoritmos não têm experiência suficiente com questões sociais. Os algoritmos que elas escrevem são discriminatórios, mas a discriminação é difícil de identificar ou provar porque está oculta dentro do código. 

Em seu novo livro, você diz que não devemos supor que os computadores sempre acertam. Quais são os limites da tecnologia?

Os computadores podem fazer tanto hoje em dia, é fácil esquecer que o que eles estão literalmente fazendo é computação. Tudo o que você faz em um computador é fundamentalmente matemático. 

Existem limites fundamentais para a matemática. A maioria das pessoas está confortável com isso. Mas quando se trata de computadores, muitas vezes as pessoas começam a usar o pensamento mágico. Eles imaginam que é possível inventar um computador malicioso que domina o mundo, ou que seria uma boa ideia ter um motorista de robô. Essas ideias são divertidas de imaginar, mas não são reais. O livro explora o funcionamento interno e os limites externos da tecnologia.

Fake News são um problema não só nos Estados Unidos, mas também no Brasil. O que a tecnologia pode fazer para resolver isso?

Os tecnochauvinistas acreditam que é possível construir ferramentas de inteligência artificial que consertarão notícias falsas. Isso não vai funcionar. Não devemos esperar usar computadores para resolver todos os problemas sociais. Computadores são bons para resolver problemas matemáticos. Notícias falsas são um problema social. Corrigir o problema das notícias falsas exigirá soluções que combinem esforço humano e computacional.

Os bots estão se tornando cada vez mais autônomos. Isso é perigoso? Como distinguir um bot de um humano real?

Eu não estou preocupado com bots ou qualquer tipo de apocalipse robótico. No livro, eu levo os leitores através de uma definição do que é inteligência artificial (IA) e não é. Cientistas da computação falam sobre dois tipos diferentes de inteligência artificial: geral e estreita. A geral é a ideia de androides influenciada por Hollywood. Isso é tudo imaginário. A estreita é o que é real e é puramente matemática. 

Estou preocupada com as maneiras pelas quais os seres humanos usam bots para manipular eleições e promover o extremismo. O perigo real dos bots são os humanos que os fazem.