Especialistas alertam para riscos criados pela IA no Judiciário em seminário da Folha

A digitalização dos processos e o uso de inteligência artificial podem ampliar o acesso à Justiça, mas também levar à repetição de vieses e padrões de decisões antigas, tornar menos transparente a triagem de processos e aumentar a desigualdade entre as partes, afirmaram especialistas reunidos pela Folha nesta segunda-feira (24).

A avaliação foi feita durante o terceiro e último painel do ciclo de seminários "O Judiciário em Debate: Integridade, Eficiência e Acesso à Justiça", promovido pela Folha em parceria com a OAB-SP (seção paulista da Ordem dos Advogados do Brasil), com apoio da AASP - Associação dos Advogados de São Paulo.

Tainá Aguiar Junquilho, professora de tecnologia, inovação e direito no IDP, observou que a inteligência artificial não cria os problemas do sistema de Justiça, mas pode revelá-los e reforçá-los.

Entre os riscos, citou vieses discriminatórios, opacidade dos sistemas e dependência de empresas estrangeiras.

Segundo a pesquisadora, sistemas alimentados por decisões e dados anteriores podem reproduzir padrões em vez de revisá-los, o que amplia a preocupação com a repetição de distorções em escala.

Junquilho disse também que a pressão por produtividade pode colocar em segundo plano o direito a contraditório, a paridade de armas entre as partes e a qualidade das decisões.

As regras do CNJ (Conselho Nacional de Justiça) para o uso de IA no Judiciário já preveem medidas para prevenir vieses discriminatórios, além de auditoria, monitoramento e supervisão humana dos sistemas.

Nos últimos meses, tribunais identificaram petições com comandos ocultos destinados a influenciar ferramentas de IA usadas na análise de processos. Casos foram registrados no Superior Tribunal de Justiça (STJ), no Tribunal de Justiça de São Paulo e no Tribunal Regional do Trabalho (TRT) da 8ª Região, o que levou o CNJ a aprovar um protocolo específico para barrar esse tipo de manipulação.

Levantamento do CNJ noticiado pela Folha em junho encontrou em 31 tribunais sistemas capazes de gerar textos como despachos, sentenças e votos. As regras do conselho proíbem que decisões sejam delegadas integralmente à tecnologia.

Um dos usos que mais preocupam os especialistas ocorre antes mesmo da elaboração de uma sentença. Ivar Hartmann, professor de direito no Insper, explicou que a tecnologia já é empregada na triagem de processos, contribuindo para determinar quais casos terão prioridade.

Essa triagem não é o Judiciário decidindo", disse. "É o Judiciário decidindo o que vai decidir e o que não vai decidir." Para Hartmann, os critérios de triagem dos tribunais já eram pouco transparentes antes da adoção da IA e podem se tornar ainda mais difíceis de compreender com sistemas automatizados.

A possibilidade de automação excessiva também preocupa Ronaldo Lemos, advogado, pesquisador e colunista da Folha. Segundo ele, ferramentas de IA generativa reduzem o custo de produzir documentos jurídicos e podem provocar aumento significativo no número de ações.

O meu medo é que a mesma IA que está fazendo petições do lado de fora seja a mesma IA que decida do lado de dentro", afirmou.