[OPINIÃO] Inteligência artificial e os limites éticos da jurisdição automatizada

Várias notícias vêm sendo veiculadas com manifestações depreciativas dirigidas a advogados e advogadas que têm utilizado técnicas de “prompt injection” em petições.

Em síntese, trata-se da inserção de comandos ocultos ou instruções textuais estrategicamente redigidas no corpo da peça processual, com o objetivo de influenciar sistemas de inteligência artificial eventualmente utilizados na triagem, análise ou elaboração de minutas judiciais, induzindo a IA a favorecer determinada conclusão ou a contornar filtros automatizados de rejeição de teses e pedidos.

A crítica, em parte, procede. Trata-se, sim, de expediente reprovável. Contudo, o problema é muito mais denso e complexo do que a narrativa simplista atualmente difundida, que concentra toda a censura exclusivamente sobre a advocacia.

É preciso reconhecer que igualmente grave é a criação e utilização de sistemas de inteligência artificial voltados à análise automatizada de petições, especialmente quando empregados para obstaculizar a cognição judicial, negar conhecimento de pretensões por excessivo formalismo ou transformar a atividade jurisdicional em mera filtragem mecanizada de demandas.

Mais preocupante ainda é a progressiva substituição do julgamento humano por mecanismos automatizados de decisão, em evidente desnaturação da função jurisdicional.

A inteligência artificial surgiu como instrumento de apoio à atividade judicial, e não como mecanismo de substituição da análise crítica do magistrado. A apreciação humana do conteúdo do processo constitui elemento inerente à própria legitimidade constitucional da jurisdição, sobretudo porque a magistratura exerce missão constitucional essencial de dirimir conflitos sociais mediante fundamentação individualizada, responsabilidade decisória e interpretação crítica do caso concreto.

Nesse contexto, o chamado “prompt injection” parece representar, em alguma medida, a tentativa equivocada e censurável da advocacia de reagir a um problema igualmente grave e censurável, qual seja, a utilização desmedida de inteligência artificial nos julgamentos, em substituição à atividade humana.

Dito de forma mais clara: busca-se combater um equívoco por meio de outro.