Quando a imagem do papa Francisco vestindo um casaco branco extravagante viralizou, em 2023, uma nova etapa da inteligência artificial (IA) se apresentou de forma definitiva para o mundo. Criada apenas com comandos de texto em ferramentas de IA, a cena ultrarrealista enganou os olhares mais atentos até ser desmentida pelo Vaticano e por veículos de imprensa.
Meses depois, o líder da Igreja Católica usaria a sua tradicional mensagem de Ano-Novo para alertar sobre este novo ambiente social, em que distinguir a verdade da mentira se torna a cada dia mais difícil.
— Os progressos técnico-científicos, que permitem exercer um controle inédito sobre a realidade, colocam nas mãos do homem um vasto leque de possibilidades, algumas das quais podem constituir um risco para a sobrevivência humana — escreveu Francisco, em 1º de janeiro de 2024.
As imagens falsas do Papa são fruto de um tipo específico de IA, a generativa, uma estrutura de algoritmos capaz de criar conteúdos inteiramente novos (como textos, músicas, imagens). Desde 2023, quando foi forjada a imagem artificial do religioso, as IAs generativas se tornaram ainda mais acessíveis e intuitivas, permitindo que vídeos inteiros sejam roteirizados e gerados a partir de comandos de texto.
Durante o processo eleitoral americano deste ano, viralizou um vídeo gerado por IA no qual os candidatos Kamala Harris e Donald Trump caminham juntos na praia, trocam carícias e celebram a chegada de um herdeiro. A composição — sabidamente irreal — denunciava a falsidade do conteúdo. Em roteiros menos absurdos, contudo, as imagens falsas tendem a enganar parte dos eleitores.
— Se eu estou vendo com meus olhos, como vou duvidar? Isso contribui muito para fortalecer a desinformação porque geralmente a informação falsa vem com viés confirmatório, isto é, um conteúdo que a pessoa quer receber. Isso acaba fazendo com que as pessoas passem adiante o material — analisou Bruno Sartori, um dos mais famosos produtores brasileiros de vídeos de humor político gerados por IA.
Os conteúdos em alta qualidade, parcial ou totalmente forjados, são conhecidos como deepfake (falsificação profunda, em tradução livre). O termo busca diferenciar as antigas fake news — que já causavam grande impacto social — das novas formas mais elaboradas de produção de mentira. Com a IA generativa, é possível, por exemplo, trocar o rosto de uma pessoa pelo de outra, mudar o conteúdo de uma fala ou mesmo fabricar situações inteiras em imagens.
No caso de Bruno Sartori, os vídeos publicados em suas redes sociais são explicitamente de humor e sátira, funcionando como uma espécie de pedagogia das deepfakes. Entre os vídeos mais conhecidos do produtor estão aqueles em que políticos conhecidos são colocados em episódios da turma do Chaves.
— A partir dos meus vídeos, as pessoas pensam nas possibilidades de uso das deepfakes tanto para o bem quanto para o mal. Em primeiro lugar, vem a ideia de que é possível manipular informações com alta qualidade — refletiu Sartori.
Se engana quem acredita que as deepfakes só podem ser criadas com equipamentos sofisticados e conhecimentos complexos. Com pesquisa em tutoriais, pagamento de US$ 5 por mês e um computador, a reportagem de Zero Hora conseguiu clonar a voz de apresentadores da Rádio Gaúcha.
O que é permitido
Preocupado com o uso massivo da ferramenta, o Tribunal Superior Eleitoral (TSE) regulamentou pela primeira vez em 2024 o uso de IA para a propaganda de partidos, coligações, federações, candidatas e candidatos. As novas regras estão descritas na resolução 23.732/2024 do TSE.
— Que essa tecnologia não seja usada para desservir à democracia, aos eleitores e às garantias das liberdades — destacou a presidente do TSE, ministra Cármen Lúcia, durante a formatação da norma.
De forma geral, as novas normas eleitorais:
- Proíbem o uso de deepfakes
- Obrigam o aviso de uso de IA na propaganda eleitoral
- Restringem o emprego de robôs para intermediar o contato com o eleitor
— É obrigação dos candidatos informar de modo explícito que aquele conteúdo foi produzido com inteligência artificial. A ideia é que os eleitores sejam informados quando há propaganda eleitoral com IA — explicou o coordenador do Gabinete de Assessoramento Eleitoral do Ministério Público do RS, promotor Rodrigo Zilio.
Resumindo, a Justiça Eleitoral obriga o alerta de conteúdo produzido via IA. No entanto, alguns materiais políticos, mesmo se rotulados, seguem proibidos: caso das fake news e da manipulação de imagens de pessoas vivas, mortas e fictícias.
"É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake)", cita trecho da resolução.
— É proibido, mesmo que a família de um político já falecido, por exemplo, autorizasse a criação de imagens desse político com IA. Este caso está regulamentado na legislação, com possível pena de cassação de registro. Configura abuso de poder político e uso indevido dos meio de comunicação — explica a presidente do Instituto Gaúcho de Direito Eleitoral, Francieli Campos, que contribuiu com a escrita da norma.
O ódio, ao contrário do que se tem dito, não é gratuito. O ódio gera muito dinheiro porque gera muito engajamento. E esse engajamento faz as pessoas consumirem publicidade enquanto se engajam
BRUNO SARTORI
Especialista em vídeos criados por IA
Em outro trecho da resolução, o TSE proibiu as campanhas de simularem qualquer diálogo com os eleitores, seja por texto, voz ou vídeo.
— Existe uma vedação também com relação à simulação de interlocução de pessoa candidata com o eleitor, que seriam os chatbots, que são muito utilizados. Então, para que o eleitor não entre no site, numa rede social do candidato e converse com um robô como se tivesse conversando com o candidato. A Justiça Eleitoral considera que essa simulação de conversa poderia manipular a vontade do eleitor — acrescenta a advogada eleitoral.
Apesar das restrições, a professora pondera que a ferramenta "não é um monstro" e possibilita que campanhas com menor orçamento consigam otimizar recursos, como na análise de dados eleitorais.
— Antigamente, para você fazer a análise de dados do eleitorado, o candidato tinha que contratar uma equipe, uma empresa de pesquisa para fazer a busca de gênero, raça, faixa etária, para entender o eleitor e, a partir disso, fazer o seu plano de governo, organizar o discurso do candidato. Isso hoje pode ser feito de uma maneira muito simples, muito barata, mesmo sem grande estrutura de campanha — acrescentou Francieli.
A mesma norma ainda prevê a responsabilização das big techs — as grandes empresas de tecnologia — caso não retirem do ar imediatamente conteúdos com desinformação e discursos de ódio, nazista, fascista, antidemocrático, racista e homofóbico.
— Esse material vem para criar ódio. E o ódio, ao contrário do que se tem dito, não é gratuito. O ódio gera muito dinheiro porque gera muito engajamento. E esse engajamento faz as pessoas consumirem publicidade enquanto se engajam. E as big techs enchem os bolsos de dinheiro com este material falso. Isso dá lucro — analisou o especialista em vídeos de IA, Bruno Sartori.
Apesar do regramento eleitoral, parte expressiva das fake news que circulam em redes sociais são disparadas por contas anônimas ou de forma direta em grupos de aplicativos de mensagem (como WhatsApp e Telegram).
— Tudo aquilo que é sensacional, que é capaz de provocar uma reação emocional muito forte na gente deve ser considerado com cuidado. Então, é preciso ficar alerta quando vem algum conteúdo com: "Urgente, compartilhe rápido, as pessoas precisam saber, ninguém tá sabendo". E também com as coisas que soam como teoria da conspiração, com alguém que muitas vezes não tem autoridade para falar sobre o assunto ou que não seja uma pessoa que possa ter sido testemunha do fato que está narrando — alerta Sérgio Lüdtke, editor-chefe do Comprova, projeto que reúne veículos de comunicação para checagem de informações.
O uso de IA no processo eleitoral já vem desafiando, nos últimos meses, outros países democráticos, como a Índia, onde material forjado em alta qualidade foi utilizado massivamente durante a campanha presidencial. Em um país com dezenas de idiomas e dialetos regionais, a IA foi usada, entre outras coisas, para tradução simultânea de discursos de candidatos. No Brasil, a resolução do TSE marca o início do enfrentamento às deepfakes e ao mau uso da IA generativa no cenário eleitoral.
