Blog

Em novembro de 2025, nesta ConJur, Alexandre Morais da Rosa deu nome ao problema que hoje tira o sono de quem administra tribunal: a “Bolha da IA generativa”, o uso generalizado, eficiente, porém opaco, de modelos de linguagem privados por magistrados e servidores, fora do controle das cortes. O diagnóstico está certo, e é grave. Minha divergência não é sobre o problema. É sobre o remédio.

Diante da bolha, duas reações aparecem por reflexo: fechar tudo, vedando no firewall as ferramentas comerciais, ou, de modo menos confessado, deixar correr, confiando na prudência de cada usuário. Sustento que ambas erram e que há um terceiro caminho, que a norma nacional não apenas permite como desenha: a habilitação governada, com uma postura de segurança que chamo de porta fechada por padrão.

Em texto anterior, tratei da formação, mostrando que a Resolução CNJ nº 615/2025 fez do letramento condição de licitude do uso. Aquele cuidava da pessoa, o usuário que precisa saber o que faz. Este cuida da arquitetura, que decide por onde o dado pode transitar. Sem formação, a ferramenta vira risco. Sem arquitetura, a formação vira boa intenção sem anteparo.

O que significa porta fechada por padrão

A ideia é simples de enunciar e exigente de executar. O controle recai sobre o dado e sobre o uso, jamais sobre o nome do programa. Para a informação de maior sensibilidade, o sigilo legal, o segredo de justiça e o dado pessoal sensível do artigo 5º, II, da LGPD, o padrão é a não saída do perímetro institucional. Para os demais níveis, a saída existe, por um canal único, autenticado e auditável.

Quem bloqueia fecha a ferramenta e presume que fechou o risco. Quem adota a porta fechada por padrão fecha o dado sensível e abre, de forma controlada, o resto, que é a imensa fração do trabalho de um tribunal: da comunicação às licitações, passando por boa parte da atividade-fim, cujos atos são, em regra, públicos.

Porta fechada por padrão não é sinônimo de cadeado. É a decisão de que, na dúvida sobre a classificação, o dado não sai, e de que a abertura se dá por desenho, e não por confiança.

A norma já desenhou esse caminho

Spacca

Aqui está o ponto que o debate talvez tenha ignorado: a Resolução 615 não é neutra, tampouco autoriza o bloqueio universal. O artigo 19, caput e § 1º, admite o uso, por magistrados e servidores, dos modelos de linguagem disponíveis na rede, preferencialmente por acesso habilitado, disponibilizado e monitorado pelos tribunais. Os verbos do regulador foram habilitar e monitorar. Não foi bloquear.

Poderia alguém objetar que a norma nada diz sobre restringir. Diz, e confirma a mesma lógica: a vedação ou limitação de LLMs e de IA generativa depende do descumprimento, ou do fundado receio de descumprimento, das diretrizes de proteção de dados e de capacitação do artigo 19, § 3º. E, mesmo então, pode limitar a ferramenta a usos de baixo risco ou determinar providências quanto aos dados, sempre assegurada a revisão da decisão.

A restrição, no sistema da norma, é bisturi, não guilhotina. É motivada, proporcional ao risco concreto, dirigida a uma ferramenta específica e reversível. O bloqueio universal, indiferente ao dado e permanente, é o contrário disso. Converter, por ato administrativo local, uma norma de habilitação condicionada em proibição geral não é cumprir a Resolução. É contrariá-la sob o pretexto de obedecê-la.

Por que o bloqueio falha nos próprios termos

O argumento mais forte contra o bloqueio geral é empírico: ele tende a produzir o efeito oposto ao que promete. O firewall alcança o computador institucional, não o celular no bolso do servidor. Vedado o acesso na máquina do tribunal, o usuário não abandona a ferramenta: passa a usá-la pela conta pessoal, gratuita, sem registro, sem política e sem auditoria, o pior regime de proteção possível.

Os números da indústria de segurança, a ler com a ressalva do interesse comercial de quem os produz, vão na mesma direção. O Data Privacy Benchmark 2024 da Cisco registrou que parcela relevante das organizações baniu a IA generativa e que, ainda assim, quase metade de seus funcionários admitiu ter inserido nessas ferramentas informação não pública. A proibição empurra o uso para a sombra, não o elimina.

Na nossa realidade, o bloqueio troca um risco visível e governável, o uso na rede corporativa sob identidade institucional e auditoria, por um risco invisível e ingovernável, o uso clandestino no aparelho particular. Alimenta-se a Bolha que se pretendia estourar. Perde-se o controle na essência para exibi-lo na aparência.

A arquitetura que os tribunais devem construir

É preciso construir o canal por onde o permitido passa e a barreira onde o proibido para. Em ordem de prioridade, cinco camadas.

• Primeira, a classificação da informação em níveis, com exemplos por área. Sem ela, nenhuma política de IA passa de retórica.
• Segunda, o gateway corporativo de IA: ponto único de passagem, com autenticação institucional, verificação da classificação, mascaramento de identificadores, roteamento entre modelos e trilha de auditoria. É aqui que a confiança no usuário vira controle na fronteira.
• Terceira, a prevenção de perda de dados, inspecionando o tráfego de saída. Digo com franqueza que ela reduz o vazamento, não o suprime, pois convive com o falso negativo. É defesa em profundidade, não muralha única.
• Quarta, a compartimentação. O material sensível é tratado apenas no ambiente institucional protegido, de onde sai, quando necessário, só um derivado depurado, com conferência humana. O dado sensível não deixa o perímetro.
• Quinta, o contrato. A vedação de uso dos dados para treinamento e a retenção zero, hoje disponíveis nos planos corporativos, respondem ao núcleo do risco e às exigências do artigo 19, § 3º. Mas são condição necessária, não suficiente. A segurança nasce da arquitetura combinada, não da fé no fornecedor nem na disciplina de cada usuário.

Sobre essas cinco camadas repousa a sexta, ponte com o artigo anterior: a capacitação certificada como condição de acesso. O usuário não formado é a maior superfície de ataque de qualquer tribunal. É ele quem cola o dado sigiloso sem perceber, quem não reconhece um comando oculto injetado num documento externo, quem confia numa citação alucinada. Letramento, aqui, é controle de segurança.

A maturidade dita o ritmo

Falta enfrentar a objeção mais séria. Dirão que, num tribunal sem gateway e sem prevenção de perda de dados, a porta fechada por padrão colapsa em bloqueio, sem canal seguro para abrir. O ponto é procedente. Onde os controles faltam, e o próprio CNJ reconhece que a maturidade cibernética do Judiciário é heterogênea, é proporcional manter um padrão mais restritivo para a atividade-fim sensível enquanto se implanta o que falta, sendo restritivo com honestidade, sem chamar isso de vanguarda.

Isso não é o bloqueio que se critica, que é o geral, o permanente e o indiferente ao dado. O faseamento condicionado à maturidade é engenharia de segurança responsável e tem, aliás, prazo vencido: a Resolução deu aos tribunais doze meses para adequação, contados de março de 2025.

Restam duas ressalvas. Contrato e prevenção de perda de dados não afastam o risco por inteiro. Quem promete risco zero está vendendo, não governando. O risco residual deve ser assumido de olhos abertos, e não escondido sob um selo de certificação.

E a cláusula de vedação pode ser instrumentalizada para restrições travestidas de cautela. Restrição sem o lastro que ela mesma fixa, com motivação e reversibilidade, não é aplicação da norma. É desvio dela, sindicável como qualquer ato administrativo desproporcional.

Conclusão

Nem bloquear, nem liberar. Governar com a porta fechada por padrão: fechar o dado que a lei protege e abrir, com arquitetura, o que ela quer fomentar.

A bolha diagnosticada nesta ConJur não se estoura com um cadeado no firewall, mas trazendo o uso para dentro do campo de visão institucional. A resposta ao risco da IA no Judiciário não é a proibição da ferramenta. É a governança do dado e a formação do usuário. Uma corte que entende isso não escolhe entre inovar e proteger. Faz as duas coisas com o mesmo desenho.

____________________________________________________

Referências

BRASIL. Conselho Nacional de Justiça. Resolução nº 615, de 11 de março de 2025. Disponível aqui.

CISCO. Data Privacy Benchmark Study 2024. Disponível aqui

MIGUEL, Alexandre. Formar para decidir: letramento digital no Judiciário. Consultor Jurídico, 30 set. 2026. Disponível aqui.

MORAIS DA ROSA, Alexandre. A Bolha da IA generativa no Poder Judiciário: o tamanho do risco. Consultor Jurídico, 21 nov. 2025. Disponível aqui.

O post Porta fechada por padrão: tribunais entre bloquear e governar a IA apareceu primeiro em Consultor Jurídico.