"Shadow AI" na Administração da Justiça

O conceito nasceu no mundo empresarial, por analogia com o fenómeno do "Shadow IT", e designa a utilização informal, não autorizada ou não supervisionada de sistemas de IA no interior de uma organização, à margem dos mecanismos oficiais de controlo. Na Administração da Justiça, o fenómeno assume uma dimensão particularmente sensível. Significa que os magistrados, assessores, oficiais de justiça ou funcionários podem recorrer autonomamente a plataformas de IA generativa — como "ChatGPT", "Claude", "Gemini" ou sistemas equivalentes — para tarefas relacionadas com a atividade judicial/jurisdicional, sem supervisão adequada, sem auditoria institucional e, muitas vezes, sem garantias suficientes de segurança, confidencialidade ou fiabilidade.

Esta realidade está longe de poder ser entendida como uma dimensão meramente teórica. Nos últimos anos multiplicaram-se internacionalmente os casos de utilização inadequada de IA em processos judiciais. Em diferentes jurisdições surgiram peças processuais contendo jurisprudência fictícia, referências legais inexistentes e argumentos produzidos por sistemas de IA generativa sem validação humana adequada. O problema é estrutural, pois, os modelos generativos atuais não "compreendem" o Direito no sentido técnico-jurídico do termo - metodologicamente inadequados. Produzem padrões linguísticos estatisticamente plausíveis. Essa extraordinária capacidade de gerar linguagem coerente cria um risco novo: conteúdos juridicamente sofisticados na aparência, mas materialmente errados (ou, pelo menos, insuficientes). As chamadas "alucinações" algorítmicas deixaram de ser uma curiosidade tecnológica. Tornaram-se um problema institucional sério.

Mas os riscos da "Shadow AI" não se limitam à fiabilidade técnica. Existe um problema ainda mais profundo: o impacto da utilização invisível de IA sobre os próprios fundamentos da função jurisdicional. Num Estado de Direito, a legitimidade da decisão judicial assenta em pressupostos humanos: independência, imparcialidade, fundamentação racional e responsabilidade individual do julgador. Ora, a dependência crescente de sistemas algorítmicos pode gerar formas subtis de condicionamento intelectual do raciocínio jurídico. O juiz pode deixar progressivamente de construir autonomamente a decisão para passar a validar sugestões produzidas por plataformas privadas, desenvolvidas segundo critérios opacos. A questão deixa então de ser apenas tecnológica. Passa a ser constitucional. É precisamente neste contexto internacional que Portugal começou finalmente a construir os seus primeiros instrumentos institucionais de enquadramento da "IA Judicial".

2. Neste contexto, assumem relevância dois instrumentos regulatórios distintos: a Carta Ética para a Inteligência Artificial nos Tribunais Administrativos e Fiscais, aprovada pelo Conselho Superior dos Tribunais Administrativos e Fiscais (CSTAF), de 2025, para os tribunais administrativos e fiscais, e as Recomendações do Conselho Superior da Magistratura (CSM) sobre o uso de IA pelos Tribunais, aprovadas em 2026, para os tribunais judiciais comuns. Embora partilhem preocupações semelhantes, os dois instrumentos têm alcances diferentes.

A Carta Ética do CSTAF constitui essencialmente um documento de princípios orientadores. O seu objetivo principal é estabelecer os fundamentos éticos da utilização de IA nos tribunais administrativos e fiscais, enfatizando valores como transparência, explicabilidade algorítmica, auditabilidade, proteção de direitos fundamentais e preservação da independência judicial. O documento revela uma preocupação particularmente sofisticada com o problema da opacidade algorítmica. Reconhece que muitos sistemas de IA funcionam como verdadeiras "caixas negras", potencialmente incompatíveis com o dever constitucional de fundamentação das decisões jurisdicionais. Mais do que proibir utilizações concretas, a Carta Ética procura afirmar limites estruturais: a IA deve permanecer sempre subordinada à supervisão humana e nunca substituir a decisão jurisdicional. Existe igualmente uma preocupação relevante com o risco de dependência tecnológica relativamente a fornecedores privados, alertando implicitamente para fenómenos de captura algorítmica da função jurisdicional.

Já as Recomendações do CSM seguem uma lógica substancialmente diferente. Enquanto a Carta Ética do CSTAF permanece sobretudo no plano axiológico e reflexivo, o documento do CSM assume uma dimensão muito mais operacional e disciplinadora relativamente aos tribunais comuns. As Recomendações do CSM apresentam um carácter mais prescritivo. O CSM vem recomendar expressamente que a IA: (i) apenas pode desempenhar funções auxiliares;  (ii) não pode substituir o juiz;  (iii) não pode decidir processos; (iv) não pode avaliar prova; (v) não pode aplicar o Direito;  (vi) e não pode eliminar a responsabilidade humana pela decisão final.  Além disso, proíbe expressamente a utilização de dados processuais em plataformas não autorizadas ou não validadas institucionalmente.

A diferença entre os dois instrumentos é reveladora. A Carta Ética do CSTAF representa destacadamente um instrumento de reflexão normativa (ainda que com uma função orientadora de conduta) sobre a compatibilização entre IA e Estado de Direito e os limites do uso de IA pelos Tribunais Administrativos e Fiscais. As Recomendações do CSM representam já uma tentativa de contenção institucional de uma realidade prática em expansão: a utilização informal e invisível de sistemas generativos na atividade judicial quotidiana. O problema é que ambos os instrumentos tendem a revelar-se insuficientes perante a velocidade de expansão da "Shadow AI".

3. Destarte, as dificuldades do uso de IA pelos Tribunais não residem apenas nos sistemas de IA oficialmente implementados pelos Tribunais, mas também na utilização silenciosa, descentralizada e informal de ferramentas de IA generativa, sempre que fora de qualquer mecanismo efetivo de supervisão, de onde podem surgir riscos agravados: (i) violação de confidencialidade; (ii) utilização de dados sensíveis em plataformas externas; (iii) erros jurídicos invisíveis; (iv) dependência cognitiva de outputs algorítmicos; (v) erosão gradual da autonomia intelectual do julgador.

A questão já não é saber se a IA pode ser usada nos tribunais portugueses, mas como pode ser usada. Como não deixa de estar presente (ainda que com diferentes intensidades) nos dois referidos instrumentos regulatórios dos órgãos de governo dos Tribunais portugueses, o controlo do fenómeno da "Shadow AI" tenderá a passar por um (futuro - a implementar) modelo transparente, institucionalmente regulado e devidamente supervisionado dos sistemas de IA "realmente" usados no exercício da atividade judicial.