ChatGPT alucina depoimentos e gera multa de US$ 5 mil a advogado

Usar inteligência artificial para resumir volumes extensos de documentos traz riscos diretos para a rotina de trabalho. A Suprema Corte do Novo México condenou o advogado de defesa Stephen Aarons por desacato, aplicando uma multa de US$ 5 mil e abrindo processo disciplinar após o envio de uma petição de apelação recheada de depoimentos e testemunhas falsas gerados pelo ChatGPT.

Diferente de episódios anteriores da advocacia em que a IA inventou jurisprudência, este caso envolve a sumarização de fatos do processo. Conforme apurado pelo Ars Technica, o advogado transcreveu os áudios do julgamento e submeteu o material ao ChatGPT baseado no modelo OpenAI o3. Em vez de apenas sintetizar os fatos, o modelo criou falas policiais inexistentes e inventou nomes de quatro testemunhas que jamais depuseram.

Por que o ChatGPT inventa fatos ao resumir documentos reais?

Modelos de linguagem não leem documentos como um auditor humano. Ao sintetizar transcrições longas ou processos volumosos, a IA gera continuações de texto com base em probabilidades estatísticas. Se as instruções não impuserem limites rígidos de extração, o sistema preenche lacunas narrativas criando detalhes verossímeis, porém totalmente falsos.

Em sua defesa perante o tribunal, Aarons alegou acreditar que o modelo geraria uma síntese precisa por conta da popularidade da IA. A corte rejeitou a justificativa e destacou que a responsabilidade final pelo conteúdo assinado é sempre do profissional, independentemente de o trabalho ter sido feito por um estagiário, um colega ou um software.

O que muda na prática para quem usa IA no trabalho?

O caso serve de alerta prático para quem utiliza ferramentas de IA para condensar relatórios, contratos e processos:

• Resumo não é documento final: Qualquer síntese gerada por IA deve ser tratada como um rascunho temporário e nunca usada sem validação direta na fonte.
• Responsabilidade in transferível: Dizer que desconhecia a capacidade da IA de alucinar não isenta o profissional de sanções financeiras ou éticas.
• Checagem criteriosa de entidades: Nomes próprios, datas, citações diretas e valores são os pontos onde a IA mais comete erros ao resumir grandes volumes de dados.