Art. 13. Antes de ser colocada em produção, a solução que utilize modelos de inteligência artificial de alto risco deverá adotar as seguintes medidas de governança:
I sempre que tecnicamente possível, utilizar dados de treinamento, validação e teste que sejam adequados, representativos e equilibrados, contendo propriedades estatísticas apropriadas em relação às pessoas afetadas e levando em conta características e elementos específicos do contexto geográfico, comportamental ou funcional no qual o sistema de IA de alto risco será utilizado;
II registro de fontes automatizadas e do grau de supervisão humana que tenham contribuído para os resultados apresentados pelos sistemas IA, a serem submetidos a auditorias regulares e monitoramento contínuo;
III indicação clara e em linguagem simples dos objetivos e resultados pretendidos pelo uso do modelo de IA, de forma que possam ser compreendidos pelos usuários e supervisionados pelos magistrados;
IV documentação em linguagem simples, no formato adequado a cada agente de IA e à tecnologia usada, do funcionamento do sistema e das decisões envolvidas em sua construção, considerando todas as etapas relevantes no ciclo de vida do sistema e atualizado sempre que o sistema evolua;
V uso de ferramentas ou processos de registro automático da operação do sistema (log), sempre que tecnicamente possível, para permitir a avaliação periódica de sua acurácia e robustez, apurar potenciais resultados discriminatórios, com implementação das medidas de mitigação de riscos e atenção para efeitos adversos e identificar eventual uso malicioso ou indevido do sistema;
VI medidas para mitigar e prevenir vieses discriminatórios, bem como políticas de gestão e governança para promoção da responsabilidade social e sustentável; e
VII adoção de medidas para viabilizar a explicabilidade adequada, sempre que tecnicamente possível, dos resultados dos sistemas de IA e de medidas para disponibilizar informações adequadas em linguagem simples e acessível que permitam a interpretação dos seus resultados e funcionamento, respeitados o direito de autor, a propriedade intelectual e os sigilos industrial e comercial, mas garantida a transparência mínima necessária para atender ao disposto nesta Resolução.