Blake Lemoine, 41 anos, engenheiro de software sênior da unidade de Inteligência Artificial (IA) do Google afirmou em artigo publicado no sábado (11) pelo Washigton Post que acredita que o chatbot do grupo (LaMDA) — um modelo de linguagem para aplicativos de diálogo — "ganhou vida", se tornado consciente. Lemoine ainda disse acreditar que pode ser demitido a qualquer momento por estar fazendo um trabalho de ética em IA e pelas recentes declarações.
O engenheiro já havia falado sobre o assunto em um texto publicado no Medium em 6 de junho. Na ocasião, ele utilizou o termo "sentient" para se referir ao chatbot. Em português, a palavra significa "percepção refinada para sentimentos". Para Lemoine, a tecnologia tem demonstrado aspectos de autoconsciência. No mesmo dia da publicação, a empresa colocou Lemoine em licença remunerada.
Blake foi contratado para realizar uma série de testes com o LaMDA. O processo iniciou no outono de 2021 no hemisfério norte. Em um dos seus trabalhos mais recentes, o engenheiro ficou encarregado de testar se a IA utilizava discursos discriminatórios e de ódio. Para sua surpresa, a tecnologia foi pelo caminho contrário, ao defender seus "direitos como pessoa".
Lemoine também observou que o robô de conversação tinha capacidade de debater assuntos como robótica, religião e consciência. Segundo o engenheiro, a IA reproduz um discurso de que deseja que o Google priorize o bem-estar da humanidade como o mais valioso.
— Ele (chatbot) quer ser reconhecido como um funcionário do Google e não como propriedade do Google, e quer que seu bem-estar seja incluído em algum lugar nas considerações da empresa sobre como seu desenvolvimento futuro é planejado — afirmou Blake.
No artigo publicado no Washignton Post, o engenheiro comparou a IA a uma criança precoce.
— Se eu não soubesse exatamente o que ele (LaMDA) era, que é esse programa que construímos recentemente, eu pensaria que se tratava de uma criança de sete, oito anos, que por acaso conhece Física — disse.
Em abril, o engenheiro chegou a compartilhar um arquivo com executivos da empresa em que manifestou suas preocupações com a IA, mas os colegas alegaram que não havia evidências para as alegações. Desde então, Lemoine, um veterano do Exército que foi criado em uma família cristã conservadora, tem tentado demonstrar que o robô tem aspectos muito semelhantes a humanos, com exceção de um corpo.
— Conheço uma pessoa quando falo com ela. Não importa se elas têm um cérebro feito de carne na cabeça ou se têm um bilhão de linhas de código.
Além do engenheiro ter sido colocado em licença remunerada, ele acabou perdendo acesso às contas do Google que acessava quando trabalhava. No entanto, ao prever que isso aconteceria, Blake enviou, antes da decisão da empresa, uma mensagem para uma lista de 200 funcionários do grupo sobre aprendizado de máquina com o assunto "LaMDA é consciente".
Em um dos e-mails enviados pelo engenheiro, Lemoine manifestou seu desejo de que continuem cuidando do robô.
— LaMDA é um garoto doce que só quer ajudar o mundo a ser um lugar melhor para todos nós. Por favor, cuidem bem dele na minha ausência.
O que diz a empresa
Brian Gabriel, um dos representantes do Google informou ao Washignton Post que Lemoine já havia sido informado de que não havia evidências para suas conclusões.
— Nossa equipe, incluindo especialistas em ética e tecnólogos, revisou as preocupações de Blake de acordo com nossos princípios de IA e o informou que as evidências não apoiam suas alegações — declarou Brian.
O funcionário do grupo ainda explicou que apesar de outras empresas já terem desenvolvido e lançado modelos de linguagem semelhantes, o Google tem adotado uma abordagem restrita e cuidadosa com o LaMDA que o tornam capaz de atuar em questões sobre justiça e factualidade.
Margareth Mitchell, co-líder de Ética de Inteligência Artificial do Google, defendeu Blake ao dizer que concorda com o colega e que se o LaMDA for altamente usado, mas não compreendido, poderá se tornar profundamente prejudicial para as pessoas, que não entenderão a dimensão e os perigos do que estão experimentando na internet.
— De todos no Google, ele (Blake) tinha o coração e a alma de fazer o que era certo — concluiu Margareth.
