Referência mundial em inteligência artificial, o britânico Stuart Russell abriu o Fronteiras do Pensamento 2024 na noite desta terça-feira (30), no Teatro Unisinos, em Porto Alegre. Doutor em Ciência da Computação, ele disse que o alerta de que as máquinas podem assumir o controle da humanidade existe desde os anos 1950, mas nunca foi devidamente levado a sério.
Autor de Inteligência Artificial a Nosso Favor (2021), Russell vem alertando o mundo de que a tecnologia precisa ser criada com o objetivo de estar sempre a serviço do bem estar social:
— Alan Turing, a pessoa que inventou os computadores modernos e o campo da inteligência artificial, deu uma palestra em 1951 dizendo o seguinte: "Em algum momento, devemos esperar que as máquinas assumam o controle". Pouco se mencionou isso. Essa ideia foi incorporada em alguns filmes, como 2001, Uma Odisseia no Espaço (1968), mas, em grande parte da história, foi algo ignorado.
Tendo criado seu primeiro sistema de inteligência artificial (IA) há 48 anos, Russell é um defensor da tecnologia como ferramenta para contribuir com o progresso social, um meio de se atingir melhores indicadores de saúde, educação, entre outros. No entanto, diz que é imprescindível que se criem leis rígidas para a invenção e implementação de novos sistemas de IA, como o banimento de alguns tipos de IA e de deepfakes, capazes de trocar o rosto de pessoas em vídeos, por exemplo.
— Outro passo que pesquisadores como eu defendem, mas que ainda não foi aceito pelos governos, é que o ônus da criação de sistemas de IA deva estar com seus desenvolvedores. Não se pode vender remédios para as pessoas a não ser que se comprove que são seguros e eficazes. Precisamos ter a confiança de que os sistemas de IA que estão criando são seguros. Precisam ser registrados e devem poder ser desligados caso se comportem mal, como ao fazerem cópias de si mesmo ou difamando indivíduos — exemplifica.
Russell diz que não se pode acreditar que um sistema de inteligência artificial vá ser seguro conforme seja utilizado, e sim que é necessário criá-lo partindo de princípios que possam garantir essa segurança. O principal deles é que a máquina sempre deve agir de acordo com interesses humanos e que esteja sempre incerta sobre quais são esses interesses.
— Se a máquina foi criada para um objetivo fixo e sempre estiver certa daquilo, ela nunca poderá ser desligada. E o robô precisa ter uma disposição de querer ser desligado, é importante, é algo que vem justamente da incerteza em saber o que o ser humano deseja — reflete.
Russell frisa que a inteligência artificial tem potencial para servir à humanidade, desde que os desenvolvedores comecem a elaborar novas formas de produzi-la.
— Acredito que a IA pode ter benefícios para a humanidade. Mas acho que os sistemas, como estão sendo feitos, são incontroláveis. E espero que vocês enxerguem que existe outra forma de produzir IA e que permitirá que a humanidade fique no controle — ressalta.
