Faculdade ESMAFE
Pós-graduação

Quando enganar a inteligência artificial pode virar crime

A inteligência artificial entrou nos tribunais. Agora, o Congresso começa a discutir o que fazer com quem tenta enganá-la.

Paulo Gustavo Moreira Jalowyj
Paulo Gustavo Moreira Jalowyj
Coordenador de Marketing, Inovação e Tecnologia.
4 min.
Quando enganar a inteligência artificial pode virar crime

O Projeto de Lei nº 2.543/2026, em análise na Câmara dos Deputados, pretende incluir no Código Penal a chamada “injeção de prompt” quando utilizada em processos judiciais ou administrativos para obter vantagem indevida, causar dano ou influenciar resultados produzidos com auxílio de sistemas automatizados.

A pena prevista vai de um a quatro anos de reclusão, além de multa.

A proposta é do deputado Alberto Fraga (PL-DF), que define a prática como uma “nova forma de fraude processual digital”.

O comando que o leitor não vê

A prompt injection — ou injeção de prompt — explora justamente a forma como sistemas de inteligência artificial interpretam informações.

A técnica consiste na inserção de comandos, instruções, conteúdos ou sinais destinados a induzir a ferramenta a executar uma orientação que não deveria seguir.

No ambiente judicial, o problema ganhou uma dimensão peculiar: documentos processuais podem conter comandos destinados não ao juiz ou à parte contrária, mas à inteligência artificial encarregada de auxiliar na leitura e análise daquele material.

É quase uma nova espécie de destinatário processual.

E o projeto pretende transformar a tentativa deliberada de manipulá-lo em crime.

Quanto maior o risco, maior a pena

O texto prevê agravamento da punição em algumas situações.

A pena poderá aumentar de um terço até a metade quando a manipulação resultar em violação de sigilo, adulteração de decisão, interrupção relevante de serviço público, prejuízo à Justiça ou acesso indevido a dados judiciais sensíveis.

Se a prática for cometida por alguém que possua credencial profissional de acesso aos sistemas do Judiciário, o aumento será de metade.

Há ainda uma hipótese mais severa: se a manipulação tiver como objetivo produzir efeitos em processo penal, mesmo antes de sua instauração, as penas poderão ser aplicadas em dobro.

Dois anos para olhar para trás

Talvez o ponto mais ambicioso da proposta não esteja no Código Penal.

O projeto determina que órgãos públicos revisem processos judiciais e administrativos nos quais ferramentas de inteligência artificial tenham sido utilizadas para auxiliar a análise de documentos apresentados por terceiros.

O prazo para a auditoria será de dois anos a partir da publicação da eventual lei.

E o alcance chama atenção: a verificação poderá atingir inclusive processos já transitados em julgado, em busca de indícios de prompt injection ou de outras técnicas de manipulação de sistemas de IA.

A resposta não será apenas penal

O projeto também tenta agir antes da fraude.

Órgãos públicos deverão adotar medidas mínimas de segurança, como validação dos dados inseridos nos sistemas, separação entre comandos da ferramenta e conteúdo apresentado pelos usuários, registro das interações relevantes e monitoramento de comportamentos anormais.

Nos processos considerados de maior risco, a revisão humana deverá ser obrigatória.

Tribunais, conselhos do Poder Judiciário e órgãos dos Poderes Legislativo e Executivo também deverão estabelecer padrões técnicos de segurança, procedimentos de resposta a incidentes, preservação de provas digitais e treinamento periódico dos usuários autorizados.

A mensagem é clara: colocar inteligência artificial dentro do Estado também significa criar regras para protegê-la de manipulações.

A advocacia diante de um novo risco

A discussão chega justamente quando o uso da inteligência artificial pelo Judiciário começa a produzir novas questões para a prática jurídica.

Ferramentas automatizadas já auxiliam tribunais na triagem de processos, localização de precedentes, análise documental e elaboração de minutas. Com elas, surgiram também discussões sobre transparência, supervisão humana, responsabilidade profissional e os limites éticos do uso da tecnologia.

A prompt injection acrescenta mais uma camada ao problema.

Se antes era preciso saber argumentar diante do juiz, a digitalização do Judiciário exige também compreender como os sistemas que auxiliam esse juiz recebem, interpretam e processam informações.

O Direito começa a escrever as regras da IA

A proposta ainda tem um longo caminho pela frente.

O PL nº 2.543/2026 tramita em caráter conclusivo e deverá passar pelas comissões de Ciência, Tecnologia e Inovação e de Constituição e Justiça e de Cidadania da Câmara. Para virar lei, ainda precisará ser aprovado pela Câmara e pelo Senado.

Mas o projeto já revela uma mudança importante.

Durante algum tempo, a principal pergunta do meio jurídico foi como a inteligência artificial poderia ser usada no Direito.

A discussão começa a avançar para uma etapa mais complexa: quais serão as responsabilidades de quem usa, desenvolve — ou tenta manipular — essas ferramentas?

Formação para um Direito que também se tornou digital

É justamente nesse novo território que se insere a Pós-Graduação em Direito Digital e Inteligência Artificial da Faculdade ESMAFE.

A especialização acompanha questões que já chegaram à rotina de escritórios, empresas e tribunais e que tendem a ocupar espaço crescente na legislação e na jurisprudência: inteligência artificial, responsabilidade, ética, proteção de dados, segurança da informação, provas digitais e os impactos das novas tecnologias sobre a atividade jurídica.

Porque compreender inteligência artificial, para o profissional do Direito, já não significa apenas aprender a utilizá-la.

Significa também entender as novas regras que começam a nascer ao redor dela.

Fonte: Agência Câmara de Notícias.