Um aumento expressivo na produtividade do Judiciário em meio a um cenário de riscos que precisam ser constantemente monitorados e auditados. É assim que o conselheiro Ulisses Rabaneda, do Conselho Nacional de Justiça, percebe a chegada da inteligência artificial (IA) aos tribunais brasileiros.
Em entrevista à Zero Hora, o conselheiro destaca que as IAs já se proliferaram por todos os tribunais do país e são uma realidade em análises de processos. A meta, segundo Rabaneda, é ter ferramentas desenvolvidas pelas próprias Cortes, para garantir o monitoramento e evitar que dados sensíveis de brasileiros tenham uso indiscriminado pelas big techs.
Precisamos saber onde vão parar e como elas vão ser utilizadas. Precisamos ter garantias de como essas informações — por vezes de processos muito sensíveis, processos que envolvam até mesmo a segurança nacional — vão ser utilizadas por essas empresas e a quem elas vão ser fornecidas.
ULISSES RABANEDA
Conselheiro do CNJ
O uso das IAs pelo Poder Judiciário teve a regulamentação detalhada em março deste ano, com a publicação da resolução 615 do CNJ. Rabaneda, que participou da produção do documento, diz que o Conselho já prepara uma nova normativa, diante dos aprendizados e mudanças rápidas no uso da nova tecnologia.
Inteligência artificial no sistema judicial
Confira a entrevista:
Qual o panorama atual do uso de IA no Judiciário do Brasil?
Nunca vamos estar à frente porque, quando se fala de tecnologia, temos essa particularidade, estaremos sempre atrás do que vem sendo desenvolvido. Hoje, no Brasil, nós podemos dizer que, em todos os tribunais, existe a utilização de IA, seja pelos magistrados, assessores, servidores, é algo bem disseminado.
A partir disso, o Conselho Nacional de Justiça entendeu a necessidade de regulamentar o uso da IA porque, ao mesmo tempo em que ela pode ser muito benéfica, ela também pode trazer malefícios. E, tratando-se de processo judicial, onde nós estamos falando da liberdade, do patrimônio. Se nós não tivermos um bom uso e com auditabilidade e governança, nós podemos entrar em um caminho bastante perigoso.
Quais os benefícios e riscos colocados à Justiça no uso das IAs?
A resolução do CNJ traz uma política nacional de governança da IA, institui princípios, diretrizes, regras claras para orientação e desenvolvimento dessas soluções. A ideia da resolução é que as soluções de IA no Judiciário sejam produzidas pelos próprios tribunais. Por óbvio, até que isso aconteça, a utilização de ferramentas abertas é absolutamente possível, a resolução prevê isso, mas a ideia é que haja soluções que sejam específicas dos tribunais, com a possibilidade de serem auditadas, tanto pelo Conselho Nacional de Justiça quanto pelo próprio tribunal, para se identificar e saber quais os prompts, os comandos e se essa IA está sendo utilizada de uma maneira benéfica ou de uma maneira maléfica.
A classificação de risco algorítmico é um outro avanço que a resolução do CNJ trouxe, isto é, o impacto da utilização da inteligência artificial sobre direitos e garantias fundamentais, o potencial de discriminação ou viés decisório. As ferramentas de IA não podem subsidiar o magistrado na adoção de uma decisão, por exemplo, com viés discriminatório. Isso é absolutamente proibido.
Outro ponto que precisa ficar muito claro: a inteligência artificial não pode produzir o resultado final do ato decisório. O magistrado, segundo a resolução, não pode colocar a informação na ferramenta de IA e pedir que a IA traga a melhor solução para o caso porque, ao fazer isso, o magistrado estaria delegando para a ferramenta o ato de decidir, a sentença. Sentença vem de sentir, e quem só sente são só nós, seres humanos. Então o que o magistrado pode fazer é utilizar a ferramenta para que ela produza relatórios, pesquisas, a confecção da minuta (rascunho da decisão), absolutamente tudo isso é possível de ser feito, sempre proibindo que a IA produza o ato decisório sem o comando humano.
Outro ponto de avanço: o registro da interação humana. A resolução prevê que essas ferramentas de IA registrem qual foi a interação humana com ela, para que seja auditável, para que as corregedorias tenham acesso ao que está sendo produzido e como está sendo produzido.
As preocupações que existem com a utilização da IA sem regulamentação, esse foi o objetivo da própria resolução do CNJ, é essa questão de produção de viés discriminatório na utilização da ferramenta. Dados históricos que contenham vieses que perpetuem discriminações ou decisões judiciais que impactam em preconceitos implícitos, o objetivo é retirar isso da ferramenta de IA.
Nenhum tribunal ou órgão público é capaz de criar os motores de IA, como o motor do ChatGPT, do Claude etc. Isso está entre o que há de mais avançado em tecnologia. Há tribunais, como o do Rio Grande do Sul, que criaram aplicações próprias, mas que operam sobre esses motores. De que forma essas IAs podem ser auditadas pelos tribunais se essa parte da tecnologia está fora do Brasil?
É muito pertinente a pergunta. Quando eu disse que o objetivo é que o tribunal utilize uma IA que é produzida pelo próprio Poder Judiciário, é exatamente para se chegar a essa finalidade (de segurança). A partir do instante em que se usa uma ferramenta de IA aberta, de empresas privadas, nós temos todos esses riscos. Como as informações que estão sendo colocadas ali estão sendo utilizadas por essas empresas? Como as informações do cidadão que são colocadas para que haja esse auxílio no ato decisório são utilizadas por essas big techs (empresas globais de tecnologia)?
Isso é algo que preocupa. Mas não só isso, o que a IA devolve, aqui falando especificamente do Poder Judiciário? O que ela devolve ao Poder Judiciário enquanto serviço está absolutamente alinhado a essas diretrizes da resolução?
Então, esses são questionamentos que levaram o CNJ a entender pela necessidade da concepção de ferramentas próprias do Poder Judiciário, que os tribunais concebam ferramentas de IA próprias e, assim, nós teremos um controle absoluto do que está sendo comandado para essas ferramentas.
A resolução diz que é possível, que não se veda a utilização de sistemas abertos, mas dá ao magistrado uma obrigação, a obrigação de utilizá-la de maneira adequada, com base nos princípios da resolução.
A ferramenta de IA tem que ser como um assessor. Nós sabemos que o assessor não pode substituir o magistrado e nem a ferramenta pode. Então, a ideia são inteligências artificiais concebidas pelo Poder Judiciário, para o Poder Judiciário, em substituição a essas fontes abertas, acho que nós afastamos muito essas preocupações.
Em boa parte, a produção de Justiça é feita da repetição de decisões anteriores sobre determinada questão. Eventualmente, por uma mudança do próprio magistrado ou da sociedade, muda o entendimento sobre um assunto. As IAs são programadas para olhar para as decisões anteriores e a partir disso produzir uma resposta. O uso das IAs pode reduzir a inovação no Judiciário?
Se a ferramenta for bem utilizada, nós não teremos essa preocupação, porque o juiz não pode dar à ferramenta um caso e pedir para ele para que decida de uma forma repetitiva. Por óbvio, se ele mantém o entendimento sobre determinada matéria, ele pode sim se subsidiar da ferramenta para que ela lhe traga um resultado final daquilo que deseja. Agora, o que ele deseja, isso o magistrado tem que inserir na IA.
Se se utilizar mal a IA, a ferramenta vai ficar produzindo as decisões, mas isso é vedado. E as sessões dos órgãos colegiados são presenciais ou por videoconferência, com interação entre os julgadores. O que se produz ali, óbvio, é absolutamente impossível de ser feito por inteligência artificial. Tem que ser por inteligência humana, até pela forma como nós julgamos os processos.
Na resolução do CNJ, há uma série de vedações sobre usos de IA para preservar a integridade do processo, a centralidade do ser humano e de evitar vieses discriminatórios. Uma das proibições é de que as IAs do Judiciário sejam usadas para análise de sentimentos ou de emoções de depoimentos. Como o CNJ enxerga o uso de inteligência artificial para análise de sentimentos por parte de advogados ou do Ministério Público?
Tanto o Ministério Público quanto a advocacia também enfrentam os mesmos dilemas que o Poder Judiciário na utilização da ferramenta de IA. Nós já tivemos casos em que se flagrou advogados utilizando mal a ferramenta, com jurisprudências, artigos de lei que não existem, como nós vimos isso também no próprio Poder Judiciário, decisões que se tornaram públicas que citaram dispositivo de lei que não existe. Então, como é tudo muito novo, nós precisamos aprender a bem usar as ferramentas.
Quando o Ministério Público ou o advogado produzem um material e submetem ao magistrado, esse material que eles produzem vai sempre requerer alguma coisa. A advocacia requer, o Ministério Público requer, e quem decide é o magistrado. Então, a preocupação maior é do mau uso pelo magistrado porque o resultado final que ele produz é uma ordem, seja de soltura, seja de prisão, seja interferindo no patrimônio, seja interferindo na guarda de uma criança, ele vai dar uma ordem e vai se produzir efeitos concretamente na sociedade.
O magistrado pode ter sido influenciado também por uma petição ou por um argumento de mau uso da IA pela advocacia ou pelo Ministério Público, o que também é muito preocupante, de modo que o magistrado, em circunstâncias como essa, é preciso que se tome algum tipo de providência, e isso vem acontecendo. Neste primeiro momento, o ideal a se fazer é conscientizar.
Mas, a sua pergunta é em relação a depoimentos, testemunhos. O seu apontamento traz um debate, traz a lume algo que é absolutamente importante. Se o advogado e o Ministério Público estabelecem uma dialética processual, um resiste à pretensão do outro, isso é feito com que argumentos? Se essas partes se utilizam de argumentos e a ferramenta produz um resultado com viés discriminatório, como o magistrado vai se proteger? Nós não temos como saber como as ferramentas estão sendo utilizadas e se estão usando bem ou estão usando mal. Então, o magistrado tem que proteger a sua decisão do mau uso.
Perceba que nem sempre é fácil a gente chegar a uma forma de solução ou de proteção. Eu acredito que o magistrado deve se proteger desse tipo de utilização da ferramenta, independente do que está sendo encaminhado para ele. Por óbvio, na análise de cada caso, uma parte vai controlar a outra, a resistência da pretensão vai ser feita pelas partes e, ao final, o magistrado vai produzir a sua decisão.
Na resolução 615, o CNJ aponta que existe uma preocupação com a soberania nacional ao se falar de inteligência artificial no Judiciário. De que forma as IAs podem ser um risco à soberania nacional?
Nós temos as grandes empresas que produzem ferramentas de inteligência artificial, são empresas estrangeiras. Então, de fato, há uma preocupação de como as informações que são ali colocadas podem ser utilizadas. Isso com base na nossa Constituição e nas leis do país. Leis, por exemplo, e aqui cito como um destaque importante, a resolução se preocupou com ela, que é a Lei Geral de Proteção de Dados (LGPD). Como essas informações são utilizadas? Elas serão utilizadas e podem colocar em risco o nosso país frente à utilização dessas informações? Então, essas são questões que a resolução procurou, de algum modo, proteger na utilização da ferramenta de inteligência artificial, para que nós não tenhamos aí qualquer tipo de problema ou qualquer tipo de desconforto.
Se nós observarmos a resolução com um todo, nós vamos observar o quê? Que nós temos uma defesa intransigente da autonomia tecnológica do Judiciário, um controle institucional e centralizado das ferramentas de IA.
Imagina uma plataforma de inteligência artificial que receba cópias de processos, informações do Poder Judiciário, de absolutamente centenas ou milhares de processos que estão em trâmite no Brasil. Essas informações, elas vão parar onde? Precisamos saber onde vão parar e como elas vão ser utilizadas. Precisamos ter garantias de como essas informações — por vezes de processos muito sensíveis, processos que envolvam até mesmo a segurança nacional — vão ser utilizadas por essas empresas e a quem elas vão ser fornecidas.
Qual a projeção de aumento de produtividade com uso da IA?
Esse vai ser o maior reflexo do bom uso da IA no Judiciário. Houve uma época ainda em que os magistrados não tinham assessores. Os magistrados produziam as decisões sem o auxílio dos assessores. Nós tínhamos um volume de processos imensamente inferior ao que nós temos hoje. Hoje o Brasil é um país com mais de 80 milhões de processos, o Poder Judiciário mais sobrecarregado, que mais produz novas ações no mundo é o brasileiro.
Os processos começaram a crescer de volume e então houve a necessidade dos assessores. Quando vieram os assessores, houve a preocupação: mas quem vai produzir a decisão? É o juiz ou o assessor? Houve uma preocupação inicial e isso se resolveu, por óbvio, na compreensão de que os assessores funcionam como um auxílio, mas a decisão é de responsabilidade do magistrado.
Agora a inteligência artificial vai funcionar absolutamente da mesma forma. E agora a inteligência artificial também traz certas preocupações. Então, vem o Conselho Nacional de Justiça e dá a diretriz, que a inteligência artificial não pode, em absoluto, produzir o ato decisório.
Mas não adianta simplesmente ter produtividade sem ter qualidade, porque o cliente do Poder Judiciário é o jurisdicionado, e o Poder Judiciário tem como objetivo a pacificação social. Do que adianta simplesmente extinguir processos, ou solucionar mal o caso concreto, ou que nós reduzimos os números, mas nós não produzimos a pacificação social, porque o conflito não acabará. Mas a expectativa é muito grande com a IA, e nós já estamos vendo isso na prática, a utilização adequada da solução faz com que a produção aumente exponencialmente.