Art. 10. São vedados ao Poder Judiciário, por acarretarem risco excessivo à segurança da informação, aos direitos fundamentais dos cidadãos ou à independência dos magistrados, o desenvolvimento e a utilização de soluções:
I que não possibilitem a revisão humana dos resultados propostos ao longo de seu ciclo de treinamento, desenvolvimento e uso, ou que gerem dependência absoluta do usuário em relação ao resultado proposto, sem possibilidade de alteração ou revisão;
II que valorem traços da personalidade, características ou comportamentos de pessoas naturais ou de grupos de pessoas naturais, para fins de avaliar ou prever o cometimento de crimes ou a probabilidade de reiteração delitiva na fundamentação de decisões judiciais, bem como para fins preditivos ou estatísticos com o propósito de fundamentar decisões em matéria trabalhista a partir da formulação de perfis pessoais;
III que classifiquem ou ranqueiem pessoas naturais, com base no seu comportamento ou situação social ou ainda em atributos da sua personalidade, para a avaliação da plausibilidade de seus direitos, méritos judiciais ou testemunhos; e
IV a identificação e a autenticação de padrões biométricos para o reconhecimento de emoções.
§ 1º Os tribunais deverão implementar mecanismos de monitoramento contínuo para garantir o cumprimento dessas vedações e monitorar o desenvolvimento de soluções de IA a fim de prevenir o uso inadvertido das tecnologias proibidas.
§ 2º Qualquer solução de IA que, ao longo de seu uso, se enquadrar nas vedações deste artigo, deverá ser descontinuada, com registro no Sinapses das razões e providências adotadas, para análise pelo Comitê Nacional de Inteligência Artificial do Judiciário, com fins de buscar prevenir outros casos.