Art. 17. Para embasar a avaliação de atualização das hipóteses de categorização de riscos, o Comitê Nacional de Inteligência Artificial do Judiciário considerará as diretrizes dispostas nesta Resolução, além dos seguintes critérios:
I impacto negativo comprovado no exercício de direitos e liberdades fundamentais ou na utilização de serviços essenciais;
II alto potencial danoso de ordem material ou moral, devidamente mensurado, incluindo discriminação ilegal ou abusiva, direta ou indireta;
III repercussão significativa sobre pessoas pertencentes a grupos vulneráveis, levando em conta suas condições sociais, econômicas e culturais;
IV irreversibilidade ou difícil reversão de possíveis resultados prejudiciais da solução, especialmente em casos que afetem diretamente direitos materiais ou processuais, ou que provoquem movimentação automática relevante em processos judiciais;
V histórico de responsabilização civil ou administrativa em decorrência da potencial violação a direitos morais ou materiais dos usuários externos pela solução de inteligência artificial, devidamente documentado e analisado em relatórios técnicos;
VI baixo grau de transparência, de explicabilidade e de auditabilidade da solução, com critérios objetivos que dificultem ou impossibilitem seu controle, supervisão e revisão pelas partes eventualmente interessadas; e
VII alto nível de identificabilidade dos titulares dos dados, especialmente quando o tratamento envolve combinação, correspondência ou comparação de dados de várias fontes, com impacto direto na privacidade e na proteção dos dados pessoais.
§ 1º A avaliação de risco deverá ser acompanhada de indicadores de desempenho e relatórios de auditoria ou de monitoramento, a fim de garantir a efetividade das medidas de mitigação de riscos.
§ 2º Constatada a baixa transparência ou explicabilidade de uma solução de IA, medidas corretivas deverão ser adotadas sempre que tecnicamente possível, incluindo eventual descontinuidade da solução, caso as correções não sejam viáveis.