O teórico da mídia Douglas Rushkoff diz escrever livros para mostrar ao público o quão estúpidos são bilionários como Elon Musk e Mark Zuckerberg. Na visão do escritor norte-americano, que é professor da City University of New York, os ricaços do Vale do Silício que estão moldando nosso mundo por meio de plataformas digitais, redes sociais e da inteligência artificial (IA) estão contra a humanidade – o que querem, na verdade, seria construir uma utopia tecnológica de super-humanos excluindo todos nós. Rushkoff já foi eleito em 2013 o sexto intelectual mais influente do mundo pela Massachusetts Institute of Technology (MIT). Hoje, o autor é uma das principais vozes críticas aos feitos dos “Tech Bros”, ou os “Rapazes da TI” que fundaram as principais empresas de tecnologia que, segundo ele, afundaram o mundo em uma distopia capitalista. O autor é um dos destaques do Fronteiras do Pensamento 2023, que começa na próxima semana em Porto Alegre (veja detalhes do cronograma de conferências ao final desta entrevista).
Sobre o que você vai falar para o público brasileiro no Fronteiras do Pensamento?
Vai depender do que estiver acontecendo. Eu costumo falar sobre como focar nos seres humanos e nas coisas vivas em uma era altamente digital. O que faz os humanos humanos, sabe? Como valorizamos os seres humanos, mais do que sua utilidade ou produtividade? Estou interessado nesse tipo de pergunta, particularmente enquanto desenvolvemos coisas como a IA e muitas pessoas estão preocupadas que essas inteligências vão nos desafiar, tirar nossos empregos e nos substituir. Eu me questiono: se uma IA está substituindo alguém, o que você acha que é esse ser humano que está sendo substituído? Essa pessoa é uma trabalhadora, uma produtora, ou é alguma outra coisa?
A IA é a tecnologia que hoje mais assusta. Houve até uma carta aberta de empresários e cientistas sobre como deveríamos parar de desenvolvê-la porque poderíamos perder seu controle. São preocupações razoáveis? Esse risco existe?
As preocupações são razoáveis, mas a carta foi estúpida. É um bando de empresários da IA tentando soar como se as tecnologias deles fossem tão poderosas, quando na verdade não são. Elas não são realmente inteligências artificiais, são modelos de linguagem. Não há uma máquina que pensa. São uma mídia sintética, como um buscador do Google com acesso à Wikipédia. É interessante porque os caras que assinaram a carta são as mesmas pessoas que trabalharam para todas as empresas de redes sociais e agora decidiram que o que eles fizeram nelas foi terrível, aí superestimam o poder das próprias invenções. Eles acreditam que são deuses e criaram algo tão poderoso quanto a própria natureza, então isso parece mais uma carta de vendas, quase uma de propaganda. “Nossa inteligência artificial é tão poderosa que poderia dominar o mundo.” Isso dito, eu realmente penso que faria bem parar um momento para refletir sobre o que estamos fazendo. Para que queremos essas tecnologias? Elas foram desenvolvidas por capitalistas radicais, o tipo de pessoa que colonializa os outros. Então, quando eles desenvolveram inteligências artificiais e estas reproduziram o comportamento de seus criadores, de repente, eles perceberam que criaram uma versão mais poderosa deles próprios. Ou seja, esses homens estavam felizes em explorar a humanidade, aí perceberam que suas tecnologias estariam satisfeitas em explorá-los também. Mas descobriram isso meio tarde.
Você acha que as inteligências artificiais podem aprofundar impactos sociais negativos como desemprego e desinformação? Os governos deveriam regular essas tecnologias, ou estamos sendo exagerados e não há riscos reais?
A inteligência artificial é apenas uma extensão do capitalismo. É o output de um sistema operacional existente, então a pergunta real que você me fez é: o capitalismo deveria ser regulado? Ou: deveríamos pegar todos os recursos, pessoas e trabalho deste planeta e usá-los para fazer a economia crescer? A IA vai pegar seja lá o que estivermos fazendo enquanto sociedade e acelerar isso. Então, sim: penso que deveríamos regular mercados. Deveríamos ter como prioridade não o poder de compra ou de produção de uma pessoa. Temos outros papéis que não servir à economia. Esses “rapazes da TI” estão preocupados com os riscos existenciais à humanidade porque sabem que já a destruíram. Eles não se importam com o que já fizeram ou se as IAs usadas para condenar pessoas à prisão nos EUA são racistas. Elas põem um homem preto na cadeia por mais tempo do que um branco que cometeu o mesmo crime, e juízes usam esses algoritmos para decidir a duração das penas. Eles não se preocupam com isso. Eles pensam “oh, não, essa IA vai ser tão poderosa que vai me encontrar no meu esconderijo em Marte”, ou “planejo baixar minha consciência para um computador e agora uma IA vai poder me desplugar”. Eles estão preocupados com seus riscos pessoais e não com os malefícios que suas tecnologias já estão causando.
O medo real que pessoas têm de coisas como o TikTok não é que os chineses possam ver seus dados privados e usá-los contra você, chantagear você. Os algoritmos deles são capazes de, a qualquer momento, alguém dizer 'nesta semana, quero os EUA deprimidos', ou 'quero os EUA ansiosos na semana que vem', entende? É o que eles podem fazer com os algoritmos deles a um bando de gente viciada nessas plataformas. É aí que a inteligência artificial se torna perigosa.
Como você encara o financiamento do Departamento de Defesa dos Estados Unidos para soluções em inteligência artificial? A IA vai virar uma arma? Como você vê a forma que militares desenvolvem essas tecnologias?
Difícil de saber. Eles meio que precisam, não é? A China está fazendo isso, a Rússia está, todos estão. É uma nova corrida. É interessante porque essas tecnologias são um pouco como armas nucleares, no sentido de que é difícil apontar elas para um único grupo. É algo que se volta contra você, como a guerra biológica. É difícil de contê-la. O medo real que pessoas têm de coisas como o TikTok não é que os chineses possam ver seus dados privados e usá-los contra você, chantagear você. Os algoritmos deles são capazes de, a qualquer momento, alguém dizer “nesta semana, quero os EUA deprimidos”, ou “quero os EUA ansiosos na semana que vem”, entende? É o que eles podem fazer com os algoritmos deles a um bando de gente viciada nessas plataformas. É aí que a inteligência artificial se torna perigosa. Ela tem mais conhecimento sobre humanos e como nos influenciar do que qualquer psicólogo ou propagandista. E eles vão continuar testando coisas em milhões de nós até descobrirem o que funciona. Eles não precisam saber o porquê! Apenas que é eficaz. Eu acho que provavelmente é isso que os militares estão fazendo com redes sociais. Parte disso, claro, são robôs, aviões que voam sozinhos ou mísseis hipersônicos que tomam decisões por eles mesmos. Tenho certeza de que há isso, mas estou mais intrigado e preocupado em como a IA pode ser usada em operações psicológicas e na escala com que a guerra psicológica pode ser lançada por meio da combinação entre inteligência artificial e plataformas digitais.
O Vale do Silício se formou em um espírito que alguns autores chamam de “ideologia californiana”. Essa ideia de que a internet iria promover a riqueza e o crescimento ao diminuir o poder dos Estados e criar comunidades virtuais de indivíduos conectados. Essa fórmula fracassou?
Ela teve tanto sucesso que pode acabar com a humanidade. Sempre houve um impulso de morte nesse sonho libertário de uma economia totalmente dirigida pelo mercado. Eles não percebiam o que desejavam, mas, sim, é uma visão a la Ayn Rand (filósofa libertária) de uma sociedade implacável, um lugar sem amor nem alma. No fim, descobrimos que, nessa ideologia californiana, as máquinas se saem melhor do que humanos porque não têm coração, crianças, culpa, ética ou moral, nem nada que as segure. Elas aceitam comandos de forma pura e sem hesitação. São o soldado, o corretor de ações ou o capitalista perfeitos. Então, de certo modo, eles venceram. Nós não encontramos o mundo que eles estavam pintando, de como seria, mas os valores deles inspiraram as plataformas que usamos para nos comunicar hoje. A internet que eles construíram é o substrato em que a sociedade humana vive hoje. Então todos os nossos valores foram tingidos ou impactados pelo que você chamou de ideologia californiana, mas que em meu livro mais recente eu chamo de “o mindset”. Essa ideia que os “Rapazes da TI” têm de que, com mais dinheiro e tecnologia, poder escapar do mal que causam ao justamente ganhar dinheiro e criar mais tecnologia dessa maneira. Eles acreditam que podem escapar das externalidades do que fazem, mas você não pode porque todos vivemos no mesmo planeta e eles não podem escapar para Marte. E agora eles estão percebendo não que eles perderam, mas que eles ganharam, e que o que criaram foi autodestrutivo.
Nessa ideologia californiana (Vale do Silício), as máquinas se saem melhor do que humanos porque não têm coração, crianças, culpa, ética ou moral, nem nada que as segure. Elas aceitam comandos de forma pura e sem hesitação. São o soldado, o corretor de ações ou o capitalista perfeitos.
Isso quer dizer que existe um conflito entre os valores dos bilionários do Vale do Silício e a própria humanidade?
Sim. Eles querem nos deixar para trás. Esses tecnologistas veem as pessoas como problema e a tecnologia, como solução. Posso dizer de modo simples que eles acharão OK se a gente sumir. Eles acreditam em uma filosofia chamada “Altruísmo Eficaz” (que pensa que as pessoas do futuro importam tanto quanto as vivas hoje). Essa ideia de que os 8 bilhões de humanos vivos hoje são a humanidade em seu estágio larval e que eles vão construir pós-humanos. Como pessoas androides, robóticas, com inteligências artificiais e capazes de se espalhar por toda a galáxia. E a felicidade desses trilhões de seres futuros importa tanto quanto a felicidade e bem-estar dos bilhões vivos hoje. Não somos nada. Somos apenas minhocas, e eles são seres completamente realizados. Essas pessoas levaram a sério as palavras de Stewart Brand, um dos pioneiros da contracultura tecnológica. Ele disse que “somos como deuses e podemos muito bem ficar bons nisso”, então eles se veem como deuses que sabem melhor o que é importante do que o resto de nós.
Hoje, Elon Musk surge como o tipo de cérebro que vai moldar a sociedade por meio da Tesla, da inteligência artificial e de uma defesa absoluta da liberdade de expressão, após comprar o Twitter. Nosso futuro vai ser moldado por mentes como a dele?
Vamos descobrir... Escrevo meus livros principalmente para mostrar ao público o quão patéticas são pessoas como Elon Musk, Peter Thiel ou Mark Zuckerberg. Zuckerberg quer ser um César. Ele vê a si mesmo como um imperador. Sim, eles estão construindo a infraestrutura na qual a humanidade vai viver, mas eu não os vejo sendo conscientes disso. A maioria deles aceitou o capitalismo de risco como o sistema operacional da nossa realidade e eles não o questionam, então, de certo modo, eles mesmos são como uma inteligência artificial. Estão só rodando um programa. Eles acham que vão ser disruptivos. Pensam: “Oh, vou ser disruptivo nos negócios dos táxis (Uber), disruptivo no negócio de vender livros (Amazon), ou disruptivo na venda de automóveis (Tesla)”, mas eles não estão inovando em nada, estão apenas preservando um sistema. Elon Musk está encontrando um jeito de as pessoas manterem seus carros, no lugar de irem além do carro. Não é nada disruptivo. São só uma nova geração em defesa do mesmo sistema como sempre foi feito.
Isso faz pensar em McLuhanm que dizia que as tecnologias operam como uma extensão do corpo e da cognição humana. Uma inteligência artificial pode ser uma extensão da mente do bilionário que a está desenvolvendo, então?
De certa maneira. É uma extensão de algo. Se a IA é o meio, seres humanos são o conteúdo. McLuhan dizia que, qualquer que fosse o meio anterior, ele se torna o conteúdo do próximo. Então a televisão, hoje, é um conteúdo da internet. É o que as pessoas fazem: elas assistem Netflix, streaming ou ao TikTok. Peças de teatro foram o conteúdo da televisão, originalmente. Eles colocavam uma câmera na frente de um palco, então, o teatro, que era o meio, virou o conteúdo daquilo. Se inteligências artificiais se tornarem o meio dominante, o conteúdo delas somos nós. Isso é estranho e assustador. Então, sim, o conteúdo dessas tecnologias, as coisas que elas estão modelando e os bancos de dados que as alimentam, vêm desses caras. Eles não estão sequer modelando a sociedade humana, estão modelando a internet atual, nem mesmo a antiga. É a internet dos anos 2016 a 2021. É um momento muito particular da história humana, e, sim, esse momento da humanidade é a versão que os "Rapazes da TI" criaram do mundo.
Mark Zuckerberg dizia que o futuro é o metaverso. É mesmo? Depois do ChatGPT, a inteligência artificial começou a parecer mais evidente como a tecnologia da moda. O metaverso é só uma ilusão de um homem rico ou é algo que vai engrenar?
Não, não é algo que vai engrenar. O metaverso foi a maneira de Mark Zuckerberg tentar deixar o Facebook para trás. Ele estava cansado e se metendo em encrenca por causa dele. O Congresso (norte-americano) o chamou para depor e todos estavam bravos com o Facebook porque ele nos deu Donald Trump e deu a vocês o Bolsonaro. Então era meio “dane-se, não quero mais fazer isso”. Ele quis deixar disso e partir para a próxima. No lugar de continuar na web 2.0, que era o que o Facebook é, ele quis fazer web 3.0 e “ir além”. Então ele pegou algumas tecnologias que ninguém entende direito, como realidade virtual, criptomoedas, inteligência artificial e 4D, ou qualquer outra coisa, e disse: vou “além” disso tudo. Foi um jeito de fazer os investidores acharem que ele estava fazendo algo novo e partiria para um novo nível porque é isso que eles fazem. Esse é o jogo da tecnologia digital. Adicionar uma camada a mais de abstração para reenquadrar seu negócio, subir um nível e, enquanto todos estão atrasados com suas lojas “.com” da web 1.0, eles sobem de nível e agregam essas pessoas. E aí depois que temos todas essas plataformas e redes sociais na web 2.0, o que fazemos? Vamos subir de nível novamente e ir para a web 3.0, mas não há nada lá. Vira uma regressão infinita. Eles não conseguem incorporar o que veio antes. Eventualmente você precisa de chão, do mundo real.
No Brasil, tivemos nossa própria invasão do Capitólio em janeiro. Agora discutimos regular as plataformas digitais e parte do debate é se redes sociais devem ser responsabilizadas pelo conteúdo que hospedam ou promovem por meio de seus algoritmos. O que você acha? Elas devem ser regulados ou isso faz mal à liberdade de expressão?
Estou com a Maria Ressa (jornalista ganhadora do Nobel de 2021) nessa. As redes sociais usam a liberdade de expressão para sufocar a liberdade de expressão. Não é uma visão popular entre meus colegas de tecnologia, mas nunca gostei da seção 230 aqui dos EUA (regra que permite que plataformas se autorregulem, transposta no Brasil via art. 19 do Marco Civil da Internet). Nunca gostei dela para empresas com algoritmos. Se esses sites fossem neutros, como o 4chan, que é um fórum onde você posta algo e fica lá, ninguém toca naquilo, não o amplifica, nem o reenvia, ele apenas está lá, então você não é um editor, você é um provedor de internet. Se você é dono do Google ou do Gmail, posso mandar uma mensagem cruel para alguém e não será sua culpa. Você não é responsável pelo e-mail que mandei. Mas, no minuto em que você usa algoritmos para pinçar e escolher qual conteúdo será distribuído para quem e quando, você agora é um editor, porque faz curadoria e edição assim como qualquer revista. Por isso, (as plataformas sociais) devem ser reguladas da mesma maneira que as revistas são.
O quanto você acha que a tecnologia mudou nossos padrões éticos? Nossa moral mudou nessa transição de uma era analógica, sem redes sociais, para uma digital?
Sim, mas diferentes pessoas são afetadas de modo diferente. Ficamos mais maus. Pessoas são más umas com as outras na internet porque é mais anônimo, tem menos repercussões e você tem um sentimento de poder porque pode angariar uma grande audiência ao engajar pessoas desse modo. Mas também vejo o público mais sensível às coisas. De certo modo, nosso entendimento de pessoas diferentes, nossa habilidade de ouvir uma pessoa trans, ou de um outro gênero, ouvi-las e escutar suas histórias. Isso pode criar uma proximidade que nunca tivemos antes, então há os dois lados. Já vi pessoas se recuperarem de desastres por meio das redes sociais, como angariar fundos para um tratamento hospitalar, mas há coisas terríveis acontecendo também. O que eu escrevo no meu livro Team Human é que nossa interação via plataformas digitais não tem o benefício de 500 mil anos de uma sofrida evolução do convívio social. Se você não vê as pupilas de alguém crescendo quanto te escutam, ou os micromovimentos de suas cabeças para cima e para baixo causados pelos neurônios-espelho que geram a mímica de comportamentos, ou a oxitocina não é liberada no seu sangue, então você não tem os benefícios da experiência social. A resposta simples é sim, isso faz algumas pessoas menos sensíveis às necessidades dos outros e, na maior parte do tempo, isso têm sido deprimente e alienante, mas não acho que seja culpa da tecnologia, mas da sociedade. Precisamos de melhores escolhas sobre entrar ou não nessas plataformas. Não é tão difícil assim desligar o telefone. Eu sei que você pode pensar que há seu trabalho, então há dinheiro, mas não é tão difícil assim passar a olhar as pessoas face a face e viver a própria vida de novo. Teremos de fazer isso se quisermos continuar sãos.
As redes sociais usam a liberdade de expressão para sufocar a liberdade de expressão. No minuto em que você usa algoritmos para pinçar e escolher qual conteúdo será distribuído para quem e quando, você agora é um editor, porque faz curadoria e edição assim como qualquer revista. Por isso, (as plataformas sociais) devem ser reguladas da mesma maneira que as revistas são.
Isso pode ser culpa da sociedade, mas plataformas digitais também são viciantes. Pode ser difícil no nível da adicção para algumas pessoas.
Sim, mas a razão pela qual elas são viciantes é porque você não está conseguindo a promessa delas na vida real. Somos adictos às redes sociais porque elas não entregam o prometido. Se entregassem, não estaríamos viciados. A adição acontece por causa do condicionamento clássico, em que você recebe doses aleatórias de dopamina, então você continua voltando para receber mais, mas isso não é satisfação. Você nunca vai estar satisfeito com isso, então se você começar a ter experiências enriquecedoras na vida real, como fazer uma festa para sua vizinhança ou tirar uma hora do dia para estar com outra pessoa, você entra em um outro enquadramento emocional. Quando conheci a internet, foi em um período em que usávamos a expressão “vou navegar na rede”, me conectar, acessar um computador e fazer algo. Hoje as pessoas estão online o tempo inteiro. Está preso ao corpo das pessoas e vibra sempre que alguém fala algo sobre elas. Virou um estado de ser, como uma interrupção de emergência em que qualquer pessoa a qualquer momento pode te chamar e você vai estar sempre lá. E isso não é saudável ou divertido, mas é parcialmente nossa escolha. Sei que é viciante, mas agora que temos essa consciência podemos começar a escolher diferente tirando uma hora por semana para estar indisponível online. Faça o teste. Veja como você se sente com isso. Você pode recuperar sua humanidade.
Você recomenda às pessoas que deixem as redes sociais?
Não se trata de ficar ou sair. Recomendo às pessoas que tirem um período sabático. Está na Bíblia e no Torá. Há 3 mil anos, quando os israelitas escaparam do Egito, eles chegam ao deserto e a primeira coisa que fazem é tirar um período sabático. A ideia é dedicar um sétimo do seu tempo para si. Você não tem que comprar, vender, trabalhar ou justificar sua existência. Eu diria para você não deixar as redes sociais se gosta delas, mas tire apenas um dia da semana. Sei que é difícil, mas veja se você consegue. Pegue um dia da sua semana e não use telas. E se você não conseguir, pense sobre isso: que hoje você vive uma vida na qual não consegue se livrar dessas bugigangas.
E o que previne o mundo de um pesadelo tecnológico no futuro? Conversar com você me deixou pessimista.
Cara, estamos em um pesadelo tecnológico agora! Está acontecendo. Você está afundado nele! Estamos aqui. É isso. Vai piorar? Talvez sim, talvez não. Veremos se conseguimos corrigir nosso caminho, mas não, nada o preveniu. Já aconteceu, mas não acho que seja tarde. Ainda podemos recuperar nosso próprio tempo, nossa atenção e nossos relacionamentos, mas teremos de escolher isso. E para escolher isso, precisamos ter menos medo uns dos outros do que temos dessas novas tecnologias.
Como fazemos isso? Há um passo a passo?
Para começar: seja coerente. Tire um dia da semana sem estar conectado às tecnologias. Olhe as pessoas nos olhos. Tome decisões conscientes sobre trazer um novo dispositivo ou plataforma à sua vida. Você pensa duas vezes antes de instalar um novo aplicativo no seu telefone porque você não quer estragá-lo ou lotá-lo, mas você não pensa se ele vai estragar ou ocupar espaço na sua vida. Seja mais ecológico, mais generoso com você mesmo. Dê um dia de folga a você mesmo. Encontre um jeito. E então use esse único dia para descobrir como se libertar dessas tecnologias e da estrutura capitalista que impuseram sobre você.
O Fronteiras do Pensamento 2023
- Com a proposta de discutir as incertezas que marcam a contemporaneidade e apontar caminhos para superá-las, esta 17ª temporada do evento terá seis conferências presencias no Teatro da Unisinos (Av. Nilo Peçanha, 1.600), em Porto Alegre.
- A primeira delas será às 20h desta quarta-feira, com a escritora espanhola Rosa Montero. Além dela, estarão na Capital a Nobel da Paz Nádia Murad (em 21/6), o neurocientista David Eagleman (5/7), o filósofo político Michael Sandel (9/8) e o antropologo David Wengrow (4/10). Douglas Rushkoff estará na Capital no dia 13/9. No final de agosto, serão disponibilizadas mais três conferências online, de Christian Dunker, Eduardo Gianetti e Luc Ferry.
- Há inscrições disponíveis no site fronteiras.com, pelo fone (11) 9-7624-7423 ou WhatsApp (11) 9-3775-5752.
- O Fronteiras do Pensamento tem o patrocínio de Hospital Moinhos de Vento e CMPC, parceria cultural da Casa da Memória Unimed Federação/RS, parceria acadêmica da Unisinos, parceria educacional do Colégio Bertoni Med, serviço médico da Unimed Porto Alegre, promoção do Grupo RBS e realização da Delos Bureau, uma empresa do Grupo DC Set especializada em entretenimento cultural.
- A cobertura completa de GZH você acessa em gzh.rs/Fronteiras.
