Marca d'água textGrain no ChatGPT: Limites e Detecção

A OpenAI iniciou a implementação do sistema de marca d'água textGrain para usuários do ChatGPT e Codex, atendendo inicialmente às exigências da Lei de IA da União Europeia. Conforme apontado pelo The Verge e pelo The Decoder, a tecnologia insere um sinal estatístico invisível nas escolhas de palavras do modelo, equiparando-se a abordagens como o SynthID do Google DeepMind.

Qual é a eficácia real da detecção do textGrain?

A taxa de sucesso da detecção varia de acordo com o tamanho do texto e o tema abordado. Dados divulgados pelo The Decoder indicam que, em passagens de 400 tokens sobre psicologia, o detector acerta cerca de 95% das vezes. No entanto, o índice cai para cerca de 60% em conteúdos de matemática, onde o modelo possui menor margem para alterar escolhas vocabulares.

O maior calcanhar de Aquiles da ferramenta é a edição humana. Segundo os testes da OpenAI, substituir apenas 10% das palavras por sinônimos reduz a detecção de 92% para 66%. Se o usuário alterar um quarto (25%) do texto, a taxa desaba para 17%, o que torna a marca d'água ineficaz diante de uma revisão comum de redação.

O que muda na prática para quem usa a API e o ChatGPT?

Diferente da abordagem da Anthropic com o Claude, a OpenAI definiu que o uso de marcas d'água via API será opcional para clientes em todo o mundo. Para quem utiliza o ChatGPT na União Europeia, o recurso será ativado de forma regional nas próximas semanas para fins de conformidade.

A própria empresa ressalta que o textGrain não mede a contribuição humana, não atesta a precisão do conteúdo e não serve para provar autoria definitiva. Como a substituição de trechos simples anula o rastreio estatístico, profissionais que editam seus rascunhos continuam sem uma métrica infalível de auditoria de IA. O acesso aos detectores também permanece restrito a pesquisadores aprovados sob avaliação de caso a caso.