Predicting risk in criminal procedure: actuarial tools, algorithms, AI and judicial decision-making,Current Issues in Criminal Justice

As avaliações de risco são realizadas em vários pontos de decisão em procedimentos criminais, incluindo sob fiança, sentença e liberdade condicional, bem como na determinação de supervisão estendida e ordens de detenção contínuas de criminosos de alto risco. Essas avaliações de risco tradicionalmente têm sido função da discrição e intuição humanas dos oficiais de justiça, com base em avaliações clínicas, enquadradas pela legislação e princípios de direito, e encapsulando o conceito de justiça individualizada. No entanto, a tecnologização progressiva do processo criminal está testemunhando a incursão de avaliações estatísticas de risco baseadas em dados. As funções avaliativas judiciais humanas são cada vez mais complementadas por uma série de ferramentas atuariais, algorítmicas, de aprendizado de máquina e de Inteligência Artificial (IA) que pretendem fornecer recursos preditivos precisos e avaliações de risco objetivas e consistentes. Porém, preocupações éticas foram levantadas globalmente em relação aos algoritmos como produtos proprietários com viés estatístico incorporado, bem como à diminuição da avaliação humana judicial em favor da máquina. Este artigo se concentra na avaliação de riscos e no que acontece quando a tomada de decisões é delegada a uma ferramenta preditiva. Especificamente, este artigo examina a natureza proprietária de tais ferramentas de risco e como isso pode tornar o cálculo da pontuação de risco opaco e incognoscível para o infrator e para o tribunal.