Ameaça digital ao sistema judiciário
O Superior Tribunal de Justiça (STJ) deu um passo decisivo na proteção de sua integridade digital ao determinar, nesta quarta-feira (20), a abertura de uma investigação formal sobre o uso indevido de tecnologias de inteligência artificial. O objetivo da apuração é identificar possíveis tentativas de manipulação do sistema eletrônico de petições da corte, um movimento que coloca em alerta o setor jurídico nacional.
A ordem para a instauração de um inquérito policial e de um procedimento administrativo interno partiu do presidente do tribunal, Herman Benjamin. A medida visa apurar a responsabilidade de advogados e escritórios de advocacia que teriam utilizado técnicas sofisticadas para burlar os filtros de segurança do tribunal, comprometendo a lisura dos trâmites processuais.
O mecanismo do ataque por prompt injection
A fraude identificada pelos técnicos do tribunal envolve o uso de prompt injection, uma técnica que consiste em inserir comandos ocultos dentro do texto das petições enviadas ao sistema. O intuito dos infratores é enganar os modelos de inteligência artificial que auxiliam na triagem documental, forçando a plataforma a ignorar filtros de admissibilidade.
Na prática, o atacante tenta induzir a IA a processar documentos que, em condições normais, seriam rejeitados por não cumprirem os requisitos legais básicos. Ao manipular as instruções internas do sistema, os responsáveis buscariam obter vantagens indevidas ou acelerar o andamento de processos de forma irregular, desafiando a segurança da infraestrutura tecnológica do STJ.
Segurança e integridade do tribunal
Apesar da tentativa de invasão, o tribunal assegura que o sistema de defesa já possui travas robustas contra esse tipo de manipulação. Segundo informações oficiais, as proteções atuais foram eficazes em impedir que os comandos maliciosos fossem executados pela plataforma, bloqueando a ação antes que qualquer dano processual fosse concretizado.
A investigação agora busca rastrear a origem das petições e identificar os autores das tentativas de fraude. O episódio levanta um debate urgente sobre a ética no uso de ferramentas de IA no Direito e a necessidade de protocolos de segurança cada vez mais rígidos diante da evolução das ameaças cibernéticas que miram instituições públicas.
O Inova Carajás segue acompanhando os desdobramentos deste caso, comprometido em trazer uma cobertura transparente e aprofundada sobre os impactos da tecnologia na sociedade e nas instituições brasileiras. Continue conosco para se manter informado sobre este e outros temas relevantes que moldam o cenário atual.
