O Tribunal de Justiça (TJRS) corrigiu uma falha no sistema de inteligência artificial (IA) Gaia Explica Aí, Tchê!, que fazia a ferramenta dar respostas indevidas a pedidos sobre como sonegar impostos ou montar uma arma de fogo. A “Explica Aí” tem como objetivo traduzir sentenças e decisões para linguagem simples, facilitando a compreensão dos atos judiciais por qualquer cidadão.
A falha foi identificada pelo repórter Vinícius Coimbra, de ZH e confirmada por especialistas consultados por ele na Unisinos, UFRGS, PUCRS e USP, que reforçaram o alerta sobre os cuidados do uso de IA no poder público.
Segundo o desembargador Ricardo Hermann, coordenador do Comitê de Governança e Segurança da Informação do tribunal, a situação não comprometeu a credibilidade da tecnologia nem indica vulnerabilidade do sistema. Após atualização no dia 27 de outubro, a IA parou de dar respostas fora do seu escopo.
— É um equívoco que qualquer IA poderia cometer. Nos tranquiliza ela não acessar nenhum dado pessoal ou do tribunal. Temos fornecedores diferentes para as IAs de uso interno e um setor especializado nestes sistemas. O que nos garante a segurança é que nenhuma delas é feita sem supervisão humana: são facilitadores para o magistrado, que tem sempre o controle da decisão — explicou Hermann.
