Diretrizes de auditabilidade e conformidade no desenvolvimento e testes de soluções de IA no âmbito do LIAA-3R

Para que fosse possível compatibilizar esses dois princípios (independência e colaboração), o Conselho Nacional de Jusciça - CNJ estabeleceu premissas e requisitos para a criação de modelos de IA para o SINAPSES, definindo, assim, procedimentos e padrões mínimos de qualidade a serem observados por todos os tribunais participantes. Dentre as premissas, o item 4-c do Anexo da Portaria SINAPSES incluiu a "validação jurídica e ética dos modelos", assim definida: "Os modelos de IA que forem utilizados na tomada de decisões ou produção de artefatos deverão ser passíveis de auditoria para análise dos resultados a partir de critérios éticos jurídicos. O processo de auditoria será definido pelo CNJ." Nesse contexto, a equipe do LIAA-3R destacou alguns de seus integrantes para compor um grupo de validação ético-jurídica (o GVEJ) para os projetos desenvolvidos no âmbito do laboratório que envolvam, de algum modo, o uso de modelos de IA. Este documento foi elaborado pelo GVEJ para orientar os seus próprios trabalhos e os trabalhos das equipes de projeto, de modo a assegurar a auditabilidade das soluções IA e a conformidade com as regras aplicáveis a essa atividade.