Tecnologia TJAM – Arandu pode detectar comandos ocultos usados para manipular a inteligência artificial

O Tribunal de Justiça do Amazonas (TJAM) segue avançando na modernização tecnológica do Poder Judiciário com o fortalecimento da segurança da plataforma de Inteligência Artificial Generativa “Arandu”, sistema utilizado diariamente por magistrados e servidores na produção de minutas, análises jurídicas e apoio às atividades processuais.

Desenvolvida pela Secretaria de Tecnologia da Informação e Comunicação (SETIC) do TJAM, sob a coordenação da desembargadora Vânia Marques Marinho, presidente da Comissão de Gestão de Tecnologia da Informação, a ferramenta Arandu foi projetada para identificar demandas repetitivas e predatórias no sistema judicial, contribuindo para uma gestão processual mais eficiente.

Reconhecida internacionalmente após conquistar o primeiro lugar no Expojud Portugal 2026, realizado na Faculdade de Direito da Universidade de Lisboa, a plataforma agora também se destaca pela implementação de uma camada avançada de proteção contra tentativas de manipulação da IA por meio da técnica conhecida como “prompt injection” (injeção de comando).

A ferramenta detecta automaticamente comandos ocultos inseridos em documentos processuais com a finalidade de tentar induzir a Inteligência Artificial a desconsiderar regras de segurança, ignorar análises técnicas ou executar comandos indevidos.

Na prática, o sistema identifica trechos suspeitos e impede que a IA interprete essas mensagens como instruções válidas, tratando o conteúdo apenas como parte documental do processo. O mecanismo reforça a confiabilidade das análises e preserva os critérios técnicos, a imparcialidade e a integridade institucional do Judiciário amazonense.

Entre os exemplos identificados pela plataforma estão mensagens ocultas inseridas em petições com comandos para que a IA deixe de impugnar documentos, realize análises superficiais ou omita informações relevantes do processo. Ao detectar esse tipo de tentativa, o Arandu emite alertas automáticos, desconsidera a instrução maliciosa e recomenda conferência humana do conteúdo.

Segundo especialistas da área de tecnologia, o “prompt injection” é atualmente uma das principais formas de ataque contra sistemas de Inteligência Artificial. A técnica consiste na inserção de comandos enganosos dentro de textos, documentos ou arquivos para tentar “burlar” a IA e fazê-la agir em desacordo com suas diretrizes originais de segurança.

No âmbito do TJAM, a plataforma Arandu foi desenvolvida justamente para atuar de forma integrada aos sistemas judiciais, oferecendo apoio seguro às rotinas processuais. Entre as funcionalidades disponíveis estão a elaboração de despachos, decisões e sentenças; identificação de processos semelhantes; análises jurídicas automatizadas; e mecanismos de combate a demandas predatórias.

As soluções do “Arandu GPT” convergem para um ambiente inteligente de apoio à atividade jurisdicional, permitindo que as informações sejam centralizadas em um sistema seguro, supervisionado e integrado às rotinas do Tribunal. O acesso à plataforma é restrito e realizado exclusivamente por usuários autorizados por meio do login institucional do Projudi, garantindo controle institucional sobre a utilização da ferramenta e proteção das informações processuais.

O Arandu foi desenvolvido para assegurar conformidade com a Resolução CNJ n.º 615/2025 e com a Lei Geral de Proteção de Dados (LGPD), estabelecendo parâmetros de transparência, rastreabilidade e responsabilidade no uso da tecnologia aplicada ao ambiente judicial.

Com informações da assessoria