Nas próximas três décadas ou um pouco mais, seres humanos se misturarão a máquinas – e vice-versa. Essa é uma das projeções da professora de inteligência artificial na PUC-SP Martha Gabriel, ícone multidisciplinar nas áreas de negócios, tendências e inovação e uma das pensadoras digitais mais influentes do Brasil. Futurista pelo Institute For The Future (IFTF) e engenheira de formação, a pesquisadora é pós-graduada em Marketing e Design, mestre em Artes pela ECA/USP e tem formação executiva no MIT Sloan School of Management, nos EUA. Autora dos best-sellers Marketing na Era Digital, Educar: a (R)Evolução Digital na Educação e Você, Eu e os Robôs, Martha defende que, a partir da união homo sapiens-máquina, poderemos viver para sempre. Embora pareça ficção científica, esse cenário já é perceptível, segundo ela, no uso de impressoras 3D para reprodução de órgãos humanos. Na quarta-feira (18/5), ela, Ronaldo Lemos e Fernando Schüler farão um debate online que lançará o Fronteiras do Pensamento 2022. Eles discutirão como a rápida mutação tecnológica irá transformar a humanidade nos próximos 30 anos.
Vamos começar com uma pergunta simples (risos): como a revolução tecnológica pela qual estamos passando vai transformar ainda mais a nossa vida nos próximos 30 anos?
Nos próximos anos, a gente deve ter uma transformação mais profunda do que nos últimos 2 mil anos. Um estudo de uma universidade britânica estima que a inteligência artificial deve atingir o nível humano em quatro décadas. O que a gente viu nesses últimos dois, três anos, foi uma superaceleração. É impressionante o grau com que as máquinas têm evoluído, em termos de inteligência e de funcionalidades que complementam as nossas. Estamos começando a sentir a ponta do iceberg daquilo que será o ser humano se misturando com as máquinas. Não teremos futuro sem nos misturarmos com as máquinas. Não há como sobreviver a esse ritmo de mudança estonteante se não incorporarmos a máquina. O humano não consegue. Em termos de comparação, o biológico demora centenas, às vezes milhares de anos para mudar, para o próximo passo de evolução. Com a tecnologia, a gente pode hackear essa evolução, colocando funcionalidades na gente, imediatamente. Um exemplo é o projeto de Elon Musk (dono da Tesla e da SpaceX e que comprou o Twitter) de conectar o cérebro ao computador. É para daqui a 10 ou 15 anos. Já temos hoje impressora 3D, que imprime nariz, olho, coração. Isso está sendo implementado para consertar órgãos que as pessoas queiram. Isso leva a gente a outro patamar. Tanto que “humanidade” será um novo termo. Será uma nova coisa, não mais o que a gente é.
Mas isso tem implicações morais e éticas muito preocupantes.
Tem uma coisa que se chama de “responsable AI” (inteligência artificial responsável). Basicamente, são diretrizes para garantir que decisões sejam explicáveis. Ou seja, a máquina tomou uma decisão, mas como e por que ela chegou a isso. Caso contrário, a gente não consegue saber se aquela decisão foi justa ou não. Outra questão é focar no ser humano. Para que isso ocorra, todas as pessoas envolvidas no desenvolvimento dessas tecnologias e dos dados têm de validá-los. Para mim, esse é o principal desafio. Vou muito aos EUA, a eventos que tratam de moral e ética da inteligência artificial. Todas as big techs tratam disso. Mas uma vez eu falei o seguinte: “A gente precisa incluir todos os grupos para que consigamos garantir moral e ética em inteligência artificial. Esses eventos não poderiam estar nos EUA, pois é caríssimo chegar ao Vale do Silício. Tinham de ser na África, no sertão do Brasil, na América Latina, em algum lugar pobre, para que a gente possa ouvir todas as vozes”. Porque apenas nós, elite do desenvolvimento, ficarmos discutindo o que é e o que não é bom também é antiético.
Máquinas não têm ética. Mas cientistas que programam essas máquinas têm – ou deveriam ter. Já são perceptíveis sinais discriminatórios, com algoritmos que repetem pensamentos dominantes e excludentes, apenas de pessoas brancas ou de seres humanos do sexo masculino, por exemplo.
Das elites. Mas há um problema maior: quando a gente fala de inteligência artificial, há alguns níveis de vieses. Um é esse, do programador. Não precisa nem ser um programador, porque a inteligência artificial não se programa, mas há o algoritmo. E ele, o algoritmo, sempre tem algum objetivo. Tem alguém lá que tem um objetivo, uma visão de mundo fazendo aquilo. Independentemente da pessoa ou do grupo de pessoas que desenvolveu o algoritmo, no sistema de machine learning, a máquina aprende com dados. Esses dados já estão no mundo, e eles já são enviesados. A gente sabe que não temos um mundo justo. Há muitos problemas de dados, nos quais as decisões não são as mais justas possíveis. A gente está tentando corrigir isso como humanidade: garantir que os dados com os quais essas máquinas aprendem também sejam de boa qualidade, não enviesados. Há um terceiro desafio: da estrutura social, que já exclui um monte de gente dessa discussão. Você tem hierarquia e estrutura sociais, que não permitem que as pessoas sejam ouvidas nas outras duas dimensões. E ainda tem a dimensão da educação, para que as pessoas consigam fazer parte dessa conversa. Por isso, está havendo tanta discussão, tantos eventos: para se tentar criar um acordo mundial para garantir moral e ética em inteligência artificial.
O que falta fazer?
O grande gargalo aqui é o futuro da humanidade. Porque, se você não garantir isso, a gente provavelmente vai ter distorções. E, como eu falei, a máquina está evoluindo superrápido, enquanto a gente, não. Se você não garantir que a máquina evolua na nossa direção para que seja centrada no humano, trazendo uma vida melhor para todos nós, teremos um problema muito grande de sustentabilidade e catástrofes futuras.
A ideia de máquinas substituírem humanos é antiga. Em países em desenvolvimento, muita gente já está perdendo o emprego porque são substituídas por robôs. Como reduzir essa desigualdade?
Já está acontecendo. Se você pegar o jogo de xadrez, não há humano mais que ganhe da máquina. Tudo o que envolve grandes volumes de dados, velocidade de processamento e repetição, a gente não ganha mais. Então, todos os humanos que trabalham hoje com essas categorias não têm futuro. É questão de tempo, porque ainda hoje a tecnologia não é distribuída de forma igualitária no mundo. Há lugares no planeta que estão na Idade da Pedra. No Brasil, há aldeias indígenas isoladas. Mas, de maneira geral, a tecnologia vai começar a penetrar, como o telefone o fez nos últimos cem anos. E agora é mais rápido. À medida que isso for ocorrendo, a ruptura é maior. De uma hora para a outra, a pessoa não tem o que fazer. Em 2018 e 2019, na região central dos EUA, robôs começaram a organizar os armazéns das grandes distribuidoras do país. Os trabalhadores braçais que faziam isso perderam seus empregos de repente. O grande problema é que, lá, não tem mais emprego para eles. Eles vão ter de ir para a costa Leste ou Oeste e terão de se capacitar. Como você pega uma pessoa com poucos recursos financeiros, que precisa gastar para se capacitar e se mudar com a família inteira para outro lugar, onde teria oportunidade, para fazer outro tipo de trabalho? Se a gente não pensar nisso, a gente não resgata os humanos que estão na pior situação. É isso que torna a gente civilizado, caso contrário, a gente começará a descartar humanos, o que é um absurdo.
Nos próximos anos, a gente deve ter uma transformação mais profunda do que nos últimos 2 mil anos. Um estudo de uma universidade britânica estima que a inteligência artificial deve atingir o nível humano em quatro décadas. Estamos começando a sentir a ponta do iceberg daquilo que será o ser humano se misturando com as máquinas. Não teremos futuro sem nos misturarmos com as máquinas.
Quando se pensa em desinformação, uma preocupação é a alfabetização digital. Muitas pessoas não conseguem diferenciar a mentira da informação verdadeira. Qual é o modelo ideal?
O modelo ideal, para mim, é a primeira disciplina que todo mundo tem de aprender: pensamento crítico. As pessoas não conseguem entender que uma informação é falsa porque elas não têm lógica, que é uma das dimensões do pensamento crítico. Minha bandeira número 1 em educação é o pensamento crítico. Se você tiver isso, todo o resto você sabe o que fazer. O primeiro pilar do pensamento crítico é o “ceticismo amável”. É você saber dialogar com educação, mas questionar tudo, para que você possa saber de onde veio. Segundo, você precisa ter repertório, que é o alimento do pensamento. Se você não tem repertório, você não consegue pensar. Terceiro: lógica, argumentação e retórica, ninguém aprende isso na faculdade de maneira geral. Se você não tem argumentação e retórica, como fala aquilo que tem de ser colocado? Quarto pilar: superar vieses cognitivos. É preciso ser humilde e saber que se é humano. Você tem de desconfiar de si mesmo. Todos nós pensamos errado. Vivemos um tempo em que as pessoas acham que não, que são doutoras da lei. Nunca duvidam de si mesmas. Passo minha vida pensando: “Será que estou pensando certo?”. Como a gente desenviesa: conversando com outros, tentando entender o lado do outro. Só que, se você não conseguir dialogar, você não consegue fazer isso. E o quinto pilar é: valores e atitudes para balizar seu pensamento lógico, porque, às vezes, a lógica é utilitarista, ela descarta humanos. E a gente não quer isso, a gente quer humanidade. Você tem de ter valores associados a isso. As pessoas não estão preparadas para fazer o mais importante: pensar criticamente, avaliar o contexto, que muda rapidamente, e, com pensamento crítico, ir atrás para ver se uma informação é falsa. Tudo passa, primeiro, por ter pensamento crítico. Só que a gente não tem isso em nossas bases educacionais.
Neste momento, o Brasil discute o projeto de lei que pretende regulamentar a atuação de redes sociais. A senhora é a favor ou contra imposição de limites às big techs?
Sou a favor. A gente consegue controlar nossa privacidade no mundo analógico. Enquanto estou falando com você, sei o que devo falar ou não. Não estou passando meu CPF, conta bancária, o nome do clube que eu frequento. A gente controla a quantidade de informações que está passando a alguém porque a gente está vendo isso, temos poder de decidir a informação que passamos ou não. No mundo digital, isso se perde porque seu dado entra em uma sequência de algoritmos. Então, se você não tiver uma regulação disso e todos os algoritmos puderem passar dados de um para o outro, ficaremos escancarados. O grande problema disso é que, quando você sabe tudo sobre uma pessoa, consegue manipular aquela pessoa. Imagine que eu veja tudo o que você faz no Facebook: sei que você adora comida japonesa, que torce para o time X, que tem filhos pequenos, que viaja nas férias para tal lugar etc. Se eu souber tudo isso, consigo te manipular. Começo a conversar com você sobre um assunto que te interessa, para te trazer alguma coisa e, ao mesmo tempo, te arrancar outra. Se como ser humano consigo fazer isso, imagina uma máquina, com todos os dados pregressos da sua vida. Se não fizermos um acordo social para limitar como nossos dados são usados, a gente fica indefeso. Quando houve a eleição de Donald Trump, em 2016, que a gente teve o escândalo da Cambridge Analytica, o problema era esse: se você pegar dados de uma pessoa e conseguir avaliar os pilares de personalidade dela, você consegue ver se ela é mais neurótica, mais aberta, como se comporta. Se eu sei disso, consigo manipulá-la, sei o que ela precisa ouvir para acreditar em mim. Qualquer um é manipulável quando se sabe seus interesses e seus medos.
As pessoas não conseguem entender que uma informação é falsa porque não têm lógica, que é uma das dimensões do pensamento crítico. Minha bandeira número 1 em educação é o pensamento crítico. Se você tiver isso, todo o resto você sabe o que fazer.
Em uma entrevista, a senhora disse: “Estamos em uma era em que a gente pode mais do que quer”. Mas isso gera ansiedade. Como equilibrar isso tudo?
Disciplina e foco. Mas a disciplina vem de regras. Muita gente não consegue ser disciplinada porque quer começar a fazer alguma coisa, só que não estabeleceu as regras, os processos para cumprir uma disciplina. E aí a regra tem de vir daquilo que te faz bem. Voltamos ao pensamento crítico. Tempo, silêncio e privacidade são os artigos de luxo do século 21. Se você não parar e pensar criticamente o que vale a pena fazer, o que vale a pena viver... Hoje, a gente pode tudo. Mas você não pode tudo ao mesmo tempo. Você tem de escolher. A função do mundo é te distrair. Se você deixar, acaba sendo levado. Então, você tem de ter disciplina para que você consiga ter a vida que merece. Tem gente que não gosta de ouvir isso, que acha que tem de ir levando. No filme sobre a história das irmãs Venus e Serena Williams (King Richard), o pai delas diz: “Se você falha em planejar, você planejou falhar”. Se o seu planejamento não é baseado em para onde você vai e em o que quer, você vai fracassar. Tem outra frase que adoro: “Na vida, a gente sempre tem de escolher entre duas dores: a dor da disciplina ou a do arrependimento. A dor da disciplina pesa quilos, a do arrependimento, toneladas”. Então, se você não tiver disciplina, passa a vida inteira se arrependendo. Por isso, a gente está voltando muito a pensar em espiritualidade. Não religião em si. Trata-se de reconexão com o interior, com a alma, com a consciência, no que é ser humano e em como a gente mantém isso. Porque estamos sentindo essa pressão de engolir a nossa humanidade.
Então, vou repetir a primeira pergunta: como a senhora imagina o mundo, vida real, daqui a 30 anos?
Na vida real, acho que o ser humano se mistura com máquinas. Se eu falar que sei como vai ser, estarei mentindo. Sou futurista e, como tal, traço cenários. Um dos cenários, que é o mais provável da sociedade 5.0, se a gente fizer tudo certo, tirarmos os vieses, teremos uma qualidade de vida incrível e não haverá diferença entre nós e a máquina. Seu cérebro processará rapidamente quase tudo o que você vai precisar e conseguiremos ter resultados de saúde com antecipação. Hoje, a inteligência artificial já faz predição para fábricas, para peças que vão quebrar. Imagine aplicar isso para toda a humanidade, termos dados para antecipar qualquer tipo de doença. A gente deve viver para sempre. Por outro lado, isso traz outros problemas: não ter mais pessoas morrendo. Acredito muito que a gente vai chegar a um ponto em que a gente vai se fundir com a máquina e a gente vai viver para sempre. A gente conseguirá nos repararmos para vivermos para sempre. Os caras que conceberam a inteligência artificial e os primeiros algoritmos nos anos 1950 já falavam da singularidade: o dia em que você inventar uma máquina que pode inventar outra máquina, e ela evoluir sozinha, será a última invenção que faremos. Não se precisará de mais nada. É por isso que, até lá, a gente precisa se misturar com a máquina. Nos próximos 30 anos, a gente irá redefinir a humanidade. Hoje, a gente tem o homo sapiens como única espécie humana no planeta. Só que estão entrando os robôs, as outras formas de vida que podem se misturar a partir da genética, e os robôs que também podem se misturar – no ano passado, um robô foi criado por inteligência artificial com células vivas de um sapo. Foi a primeira forma viva biológica criada. A gente vai começar a ter cada vez mais misturas entre humanos e máquinas, máquinas com máquinas, máquinas com outras formas de vida. Dentro de décadas, a gente deve ter muito mais espécies de humanos misturadas no planeta. Por isso sou muito a favor desses acordos, porque, se cada um começar a mexer nas suas características individuais do jeito que quiser, isso pode até ser bacana em termos individuais, mas pode ser uma catástrofe ecológica. Você pode começar a ter desvios das espécies ou utilização demasiada de recursos. Acredito muito que, em 30 anos, a gente será outra coisa, não mais o que somos agora.
O Palco Fronteiras
- São dois debates online, gratuitos, que marcarão o lançamento da temporada 2022 do Fronteiras do Pensamento.
- O primeiro está marcado para as 20h desta quarta-feira (18/5), tendo como tema Tecnologia e Inovação. Martha Gabriel e o professor de Direito Ronaldo Lemos, que participou da elaboração de diversas regulamentações de tecnologia no Brasil e no Exterior, debaterão o tema com o curador Fernando Schüler.
- O segundo será em 20 de junho. Terá o tema Tecnologia e Psicanálise e contará com os psicanalistas Christian Dunker e Maria Homem. As inscrições podem ser feitas em fronteiras.com.
- Neste Palco Fronteiras 1, quarta-feira, dia 18, serão anunciados todos os conferencistas da edição 2022 do Fronteiras do Pensamento, que este ano terá seis nomes internacionais em encontros presenciais que serão realizados entre junho e dezembro em São Paulo e Porto Alegre. Quem estiver acompanhando o evento poderá comprar o pacote para a temporada por preços especiais, na hora.
