Elon Musk e centenas de especialistas mundiais assinaram, nesta quarta-feira (29), um apelo para uma pausa de seis meses na pesquisa sobre Inteligências Artificiais (IAs) mais potentes do que o ChatGPT 4, o modelo da OpenAI lançado este mês, alertando para "grandes riscos para a humanidade". A carta aberta é coordenada pela organização Future of Life Institute.
A petição publicada no site futureoflife.org visa dar tempo para que sejam estabelecidos sistemas de segurança com novas autoridades reguladoras, vigilância de sistemas de IA, técnicas que ajudem a distinguir entre o real e o artificial e instituições capazes de fazer frente a "drama, perturbação econômica e política (especialmente para a democracia) que a IA causará”.
É defendido que a pausa seja pública e verificável. "Se a pausa não pode ser decretada rapidamente, governos devem entrar em ação e instituir uma moratória", apontam.
O texto é assinado por personalidades que expressaram seus temores sobre uma IA incontrolável que supere os humanos. Entre eles estão Musk, dono do Twitter e fundador da SpaceX e da Tesla, e o historiador Yuval Noah Harari. A lista de signatários inclui, ainda, o cofundador da Apple, Steve Wozniak; membros do laboratório de IA do Google, o DeepMind; o diretor da Stability AI, Emad Mostaque, além de especialistas americanos em IA, acadêmicos e engenheiros-executivos da Microsoft, parceira da OpenAI.
O diretor da OpenAI, que criou o ChatGPT, Sam Altman, reconheceu ter "um pouco de medo" de que sua criação seja usada para "desinformação em larga escala, ou para ciberataques".
— A empresa precisa de tempo para se adaptar — disse ele recentemente à emissora ABCNews.
O documento não pede a interrupção de todo o desenvolvimento de IA, mas solicita às empresas a interromper temporariamente o treinamento de sistemas mais poderosos que o GPT-4, a tecnologia lançada este mês pela OpenAI, startup apoiada pela Microsoft Corp. Isso inclui a próxima geração da tecnologia OpenAI, GPT-5.
"Nos últimos meses, vimos os laboratórios de IA se lançando em uma corrida descontrolada para desenvolver e implantar cérebros digitais cada vez mais potentes que ninguém, nem mesmo seus criadores, podem entender, prever, ou controlar, de forma confiável", dizem eles.
"Devemos permitir que as máquinas inundem nossos canais de informação com propaganda e mentiras? Devemos automatizar todos os trabalhos, incluindo os gratificantes? (...) Devemos nos arriscar a perder o controle da nossa civilização? Essas decisões não devem ser delegadas a líderes tecnológicos não eleitos", concluem.
Confira a íntegra da carta, também disponível neste site em inglês:
Os sistemas de IA com inteligência competitiva com a humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. Conforme declarado nos amplamente endossados Princípios de IA de Asilomar, a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais. Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora tenhamos visto, nos últimos meses laboratórios de IA presos em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável.
Os sistemas contemporâneos de IA estão se tornando competitivos em tarefas gerais, e precisamos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, nos tornassem obsoletos e nos substituíssem? Devemos arriscar perder o controle de nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos. Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis. Essa confiança deve ser bem justificada e aumentar com a magnitude dos efeitos potenciais de um sistema. A declaração recente da OpenAI sobre inteligência artificial geral afirma que "em algum momento, pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e, para os esforços mais avançados, concordar em limitar a taxa de crescimento da computação usada para criar novos modelos". Nós concordamos. Esse ponto é agora.
Portanto, pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos seis meses o treinamento de sistemas de IA mais poderosos que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória.
Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em grupo um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável. Isso não significa uma pausa no desenvolvimento da IA em geral, apenas um retrocesso na corrida perigosa para "modelos caixa-preta" cada vez maiores e imprevisíveis com capacidades emergentes. A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.
Paralelamente, os desenvolvedores de IA devem trabalhar com os formuladores de políticas para acelerar drasticamente o desenvolvimento de sistemas robustos de governança de IA. Estes devem incluir, no mínimo: autoridades reguladoras novas e capazes dedicadas à IA; supervisão e rastreamento de sistemas de IA altamente capazes e grandes conjuntos de capacidade computacional; sistemas de proveniência e marca d'água para ajudar a distinguir o real do sintético e rastrear vazamentos de modelos; um ecossistema robusto de auditoria e certificação; responsabilidade por danos causados pela IA; financiamento público robusto para pesquisa técnica de segurança de IA; e instituições com bons recursos para lidar com as dramáticas perturbações econômicas e políticas (especialmente para a democracia) que a IA causará. A humanidade pode desfrutar de um futuro próspero com IA. Tendo conseguido criar poderosos sistemas de IA, agora podemos desfrutar de um "verão de IA" no qual colhemos os frutos, projetamos esses sistemas para o claro benefício de todos e damos à sociedade uma chance de se adaptar. A sociedade fez uma pausa em outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazer isso aqui. Vamos aproveitar um longo verão de IA, não correr despreparados para o outono.
