Art. 12. O tribunal desenvolvedor ou contratante deverá estabelecer processos internos aptos a garantir a segurança dos sistemas de inteligência artificial, incluindo, ao menos:
I medidas de transparência quanto ao emprego e à governança dos sistemas de IA, com a publicação de relatórios que detalhem o funcionamento dos sistemas, suas finalidades, dados utilizados e mecanismos de supervisão;
II a prevenção e mitigação de potenciais vieses discriminatórios ilegais ou abusivos, por meio de monitoramento contínuo, com a análise de resultados e a correção de eventuais desvios, garantindo a revisão periódica dos modelos de IA;
III a implementação de mecanismos de governança que garantam o acompanhamento contínuo dos sistemas de IA, prevendo a definição de pessoas ou comitês internos responsáveis pela fiscalização do cumprimento das diretrizes de segurança e transparência, bem como pela análise de relatórios e recomendações de melhorias;
IV a diretriz para que seja priorizado o desenvolvimento de soluções interoperáveis, que possam ser compartilhadas e integradas entre diferentes órgãos judiciais, evitando a duplicação de esforços e garantindo eficiência no uso de recursos tecnológicos;
V a determinação de que só deverão ser adotadas soluções de código aberto ou comerciais que permitam flexibilidade de adaptação aos contextos locais, desde que respeitadas as diretrizes de segurança, transparência e proteção de dados pessoais;
VI a orientação de que as soluções de IA devem ser tratadas com práticas de gestão de produto, que incluam fases de definição de requisitos, desenvolvimento, testes, implementação, suporte e melhorias contínuas, com revisões que garantam a evolução dessas soluções e a mitigação de riscos associados;
VII a diretriz de incentivo ao desenvolvimento de interfaces de programação de aplicações (APIs) que permitam a interoperabilidade para comunicação direta com os sistemas tecnológicos de outras instituições públicas que atuam junto à estrutura de Justiça, garantindo-se a celeridade, segurança e integridade dos dados; e
VIII acesso à OAB, à advocacia pública, ao Ministério Público e às Defensorias, conforme o caso, aos relatórios de auditoria e monitoramento e à parametrização ao longo do ciclo de vida da solução que envolver o uso de inteligência artificial, nos termos desta Resolução.