Muito além dos códigos : uma abordagem ética da inteligência artificial no poder judiciário

Com o desenvolvimento tecnológico, ferramentas de inteligência artificial têm sido cada vez mais empregadas na tomada de decisões. Os principais motivadores para o uso de ferramentas de IA pelos tribunais são aumentar a produtividade, buscar a inovação, melhorar a qualidade dos serviços judiciários e reduzir custos. Segundo levantamento do Conselho Nacional de Justiça, o Brasil possui uma situação de litigância única, com quase 80 milhões de processos judiciais em trâmite e ajuizamento anual em média de 30 milhões de novos casos, o que gera elevada taxa de congestionamento e morosidade. No mesmo cenário de alta demanda, o Programa das Nações Unidas para o Desenvolvimento (PNUD) identificou 111 projetos desenvolvidos ou em desenvolvimento nos tribunais nacionais que envolvam inteligência artificial. Partindo da preocupação de que a inteligência artificial, ao mesmo tempo em que traz benefícios substanciais para os indivíduos e para a sociedade, também apresenta erros, riscos e impactos negativos que podem ser de difícil antecipação, identificação e mensuração, o Conselho Nacional de Justiça, editou a Resolução no 332/2020, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. Embora relevante e comemorada a iniciativa, porque aponta para a preocupação do Judiciário com o desenvolvimento ético de IA em seus muros, o fato é que a norma não deixa claro como cada um dos servidores e magistrados, técnicos de informática, cientistas de dados e programadores devem se portar concretamente para que os produtos e serviços criados tenham conformidade ética. Conduzimos estudos exploratórios, através de entrevistas narrativas, que nos permitiram levantar hipóteses, compreender os sentidos e as percepções sobre o fenômeno do uso e desenvolvimento de IA pelos tribunais brasileiros, abordando questões de utilidade e adequação da tecnologia, benefícios e riscos, desafios concretos e abordagem ética. Os estudos constataram um vazio de referencial ético para ...