Especialista alerta sobre risco de discriminação com o uso de inteligência artificial pelo Judiciário

Entre 25 e 27 de setembro, o Conselho Nacional de Justiça (CNJ) realizou uma audiência pública sobre a utilização de inteligência artificial (IA) pelo Poder Judiciário. Uma das principais palestras do evento refletiu sobre questões éticas e discriminatórias no uso de IA pela Justiça, apresentada pela coordenadora de pesquisa do Instituto de Referência em Internet e Sociedade (IRIS), Fernanda Rodrigues.

Segundo a especialista, a maioria dos dados utilizados pelos sistemas judiciais provêm dos próprios órgãos do Judiciário. Devido à possibilidade de utilização de decisões anteriores como base para modelos de aprendizagem de máquinas, é possível que a IA reproduza qualquer tipo de discriminação estrutural presente em decisões passadas. Para Fernanda, se é fato que magistrados e magistradas possam ter algum tipo de preconceito em sua esfera privada, a quebra desse ciclo de reprodução de desigualdades estruturais é uma característica humana, sendo importante observar a máquina dentro das suas limitações. 

A pesquisadora trouxe à tona ainda o caso do Sistema Compas, utilizado nos Estados Unidos para calcular pontuações de réus e detentos com o objetivo de prever a probabilidade de reincidência criminal. O intuito do sistema é auxiliar na tomada de decisões judiciais relacionadas a benefícios penais, tornando-se um elemento crucial para o parecer final do juiz ou juíza. Contudo, estudos revelaram que o sistema estava impactando de forma desproporcional pessoas negras, que apresentavam um histórico semelhante ou até menos grave em comparação a pessoas brancas.

Os riscos do uso indiscriminado de IA pelo Judiciário foi tema do I Encontro dos Oficiais de Justiça do TJRS, promovido em março deste ano pela Abojeris. A associação está atenta ao uso desenfreado dessa tecnologia pela Justiça, que, sem as devidas precauções, ameaça o futuro da carreira de Oficial de Justiça, além de representar tantos outros perigos, como a reprodução de discriminações estruturais.

Com informações da Fenajufe.