Para a advocacia, o recado é claro, utilizar inteligência artificial (IA) sem mecanismos de conferência poderá representar responsabilidade.
A inteligência artificial deixou de ser apenas uma ferramenta de produtividade para se tornar também uma fonte de riscos jurídicos. Decisões recentes do Poder Judiciário brasileiro revelam uma postura cada vez mais rigorosa diante de falhas decorrentes do uso de sistemas de IA, especialmente quando essas ferramentas produzem informações falsas, as apelidadas “alucinações” ou são manipuladas por técnicas conhecidas como prompt injection.
Para a advocacia, o recado é claro, utilizar inteligência artificial sem mecanismos de conferência poderá representar responsabilidade profissional, processual e, em determinadas hipóteses, até disciplinar.
As chamadas “alucinações” ocorrem quando o modelo de IA apresenta respostas aparentemente corretas, mas que, na realidade, são completamente inventadas. É o caso da criação de precedentes inexistentes, citações de leis revogadas, doutrina fictícia ou decisões judiciais jamais proferidas. O problema se agrava porque essas informações costumam ser apresentadas com elevado grau de confiança, tornando difícil sua identificação por usuários menos experientes.
Outra grande preocupação é o chamado prompt injection. Trata-se de uma técnica na qual documentos, páginas da internet ou até arquivos enviados ao sistema contêm instruções ocultas destinadas a alterar o comportamento da inteligência artificial. Em vez de simplesmente analisar um documento, o modelo pode ser induzido a ignorar instruções anteriores, produzir respostas incorretas, revelar informações sensíveis ou comprometer a confiabilidade da análise, tudo isso para fraudar resultado da ação judicial decidida com apoio IA.
Embora pareça um tema restrito à tecnologia, seus reflexos alcançam diretamente a atividade jurídica. Escritórios de advocacia já utilizam IA para elaboração de peças, pesquisas jurisprudenciais, revisão contratual, due diligence e análise documental. Se o material utilizado estiver contaminado por comandos maliciosos ou se a resposta produzida não for devidamente conferida, o prejuízo poderá atingir tanto o cliente quanto o próprio profissional.
O Judiciário começa a deixar evidente que o dever de diligência permanece integralmente com o advogado. A utilização de inteligência artificial não transfere responsabilidade pelo conteúdo apresentado em juízo. Ao contrário, a tecnologia passa a integrar os instrumentos de trabalho do profissional, que continua obrigado a verificar a autenticidade de precedentes, dispositivos legais, provas e demais informações levadas ao processo.
Na prática, a IA deve ser compreendida como um assistente altamente eficiente, mas incapaz de substituir o juízo crítico humano. A conferência das fontes originais, a validação da jurisprudência, a leitura integral dos acórdãos e a revisão técnica permanecem indispensáveis.
Outro aspecto relevante consiste na necessidade de verificar, com o auxílio de ferramentas de IA, se a parte adversa está empregando técnicas de prompt injection com o propósito de influenciar, manipular ou comprometer a formação do convencimento judicial e, consequentemente, o desfecho da decisão.
Esse novo cenário também fortalece a necessidade de programas de governança em inteligência artificial dentro dos escritórios. Políticas internas de uso, treinamento de advogados, critérios para tratamento de informações confidenciais e protocolos de verificação tendem a se tornar parte da rotina das organizações jurídicas.
Mais do que uma discussão tecnológica, o tema passa a integrar a agenda da responsabilidade profissional. A advocacia brasileira caminha para um modelo em que eficiência e inovação precisam coexistir com cautela, transparência e controle.
A inteligência artificial continuará transformando a prática jurídica, mas uma premissa parece cada vez mais consolidada, a responsabilidade pelas informações apresentadas ao Judiciário permanece essencialmente humana. O advogado poderá utilizar a IA para ganhar produtividade, porém jamais para substituir a análise técnica que caracteriza o exercício da profissão.
Click PB
