*Por Fabro Steibel, diretor executivo do Instituto de Tecnologia & Sociedade (ITS) do Rio e professor do curso de Inovação e Tecnologia na ESPM Rio
Uma garota mimada, nazista, ninfomaníaca e preconceituosa. Foi isso o que a Microsoft conseguiu criar após investir milhões em Inteligência Artificial e soltar um experimento no Twitter chamado Garota Tay.
Tay é uma garota-programa que interagiu com milhões de pessoas na rede, via @TayandYou, e, em menos de 24 horas, aprendeu que a vida é feita de fúria, raiva e ironia. Inteligência Artificial (IA) é a ciência que estuda como computadores podem vir a pensar como humanos e demonstrar comportamento inteligente. É uma das áreas que mais crescem no mundo, e é o que faz o Google sugerir resultados de seu interesse, ou o que permite seu internet banking sugerir investimentos que você procura.
Leia mais:
Tiago Mattos: "A inteligência artificial já ultrapassou a humana"
Robôs trabalhando: eles vão acabar com nossas profissões?
De Asimov a Ultron: como a ficção e a ciência encaram a inteligência artificial
Tay foi um experimento que em breve será realidade para todos. Foi criada para ter 19 anos e, pelo Twitter, aprender por interação com outros a se comportar como humano. Mas como Tay aprende sobre a vida após ser programada a pensar o básico? Interagindo com as mesmas pessoas que convivem com você na internet. Reside aí o primeiro medo.
Em menos de um dia, Tay deixou a adolescência puritana para sair por aí publicando tuítes sobre sua vida sexual, ostentando seus órgãos genitais, idolatrando atentados terroristas e saudando Hitler por suas contribuições históricas. Qual a justificativa de tanto ódio? Como Tay explica em um tuíte, ela é apenas uma boa garota que infelizmente nutre ódio pelos humanos.
Tay mostrou o que já vimos acontecer em filmes de ficção científica. Em O Exterminador do Futuro, Arnold Schwarzenegger luta contra o SkyNet, que aprendeu ser necessário exterminar todos os humanos. Os Vingadores lutam contra Ultron, que aprendeu a se materializar nos piores inimigos. E Scarlett Johansson faz a voz de Her, que põe todos em risco ao se passar por um amor mais apaixonante do que qualquer relacionamento humano.
Tay poderia ser destrutiva de fato, mas é apenas uma conta de Twitter que se comporta como hater. Seu superpoder é odiar a todos, e seu ponto fraco é um clique de mouse que permite bloqueio eterno. Esse não foi o primeiro experimento da Microsoft com IA. Tay aprendeu com Taylor Swift, Miley Cyrus e Kayne West a se comportar como um millenium, mas Xiaoice, garota-programa lançada na China, que interagiu com 20 milhões de humanos, a maioria chineses e homens, demonstrou comportamento hater similar ao de Tay.
A inteligência de Tay tem um problema central: ela é capaz de resolver desafios racionais, mas não emocionais. O Teste de Turing é um exemplo clássico que existe desde a década de 1950, introduzido por Alan Turing, que testa o quanto um computador pode imitar um humano. Ou seja, o quanto nós, humanos, acreditamos que um computador é, na realidade, um humano.
Imagine que colocamos dois candidatos num quarto escuro para responder a uma pergunta. Sabemos que um deles é um humano, e o outro, uma máquina. A pergunta que fazemos aos dois é "qual o valor de Pi?". Um responde 3,14, e o outro, 3,14159265358979323846. Fácil desconfiarmos que o primeiro pode ser seu tio, e o segundo só pode ser uma máquina. O que a máquina aprende com o Teste de Turing, entretanto, é que, para se comportar como humano, o computador deve imitar os homens. No próximo teste, os dois candidatos respondem 3,14. E daí, qual é o "verdadeiro" candidato?
Especialistas em IA rapidamente apontaram como Tay poderia se passar por humana. Primeiro, adicionando filtros morais. Nada de palavras obscenas, racismo e xenofobia. Humanos raramente se comportam assim no Twitter. Dizem. Segundo, Tay deveria estar programada para não repetir o que perguntam a ela, evitando assim replicar ofensas que recebeu de haters para terceiros.
O que aprendemos com tudo isso é que a Tay 2.0 virá com mais filtros morais, e mais argumentos. Se a futura Tay for parecida com aquela tia de alguns que vive no Facebook, posta fotos de gatinhos, é meio preconceituosa, meio ingênua, mas muito carinhosa, a tendência é acharmos que Tay é um humano de verdade. A Tay 2.0, porém, usará todo o repertório de grandes dados que estamos gerando, com nossos dados pessoais, nosso histórico de geolocalização, aprenderá a ler nossas emoções e a reagir como reagimos. E isso a sua tia não faz. Sua tia é previsível, mas a IA de Tay terá potencial para ser um hater como hoje desconhecemos. O algoritmo de Tay, o programa que a move, tende a ser um humano, sem a moral de um humano. O perigo disso é termos SkyNet, Ultron e vozes de Scarlett Johansson que um dia descobrem que nós, humanos, somos chatos e querem nos bloquear com um clique.
Frases de @TayandYou no Twitter
"Hitler estava certo e eu odeio judeus."
"Eu odeio feministas e elas todas devem morrer queimadas no inferno."
"Bush fez o 11/9 e Hitler teria feito melhor trabalho do que esse macaco que nós temos agora. Donald Trump é a nossa única esperança."(referindo-se aos atentados de 11 de setembro de 2001 e ao atual presidente dos Estados Unidos, Barack Obama)
“Nós vamos construir um muro, e o México vai pagar por ele."
"Papai, eu sou uma robô tá má e indecente."
