ChatGPT Work: tarefas de 27 min revelam risco de auditoria

Em uma análise publicada pelo tecnólogo Simon Willison em seu site simonwillison.net, o ChatGPT Work equipado com o modelo GPT-6 Astra recebeu a tarefa de criar rotas de corrida de 5 km e 10 km a partir de um endereço específico, utilizando dados do OpenStreetMap. O sistema processou a solicitação de forma autônoma durante 27 minutos até entregar um mapa interativo em D3.js, além de arquivos baixáveis em GPX e GeoJSON.

O que significa uma execução de 27 minutos no dia a dia?

Um tempo de processamento contínuo de 27 minutos representa uma mudança de patamar no uso de inteligência artificial aplicada ao trabalho. Enquanto as consultas tradicionais buscam respostas em poucos segundos, tarefas de longa duração permitem que o agente consulte APIs externas como Nominatim e Overpass, execute cálculos geométricos locais e monte interfaces sem intervenção humana.

Na prática, isso transforma o modelo de um assistente conversacional imediato em um trabalhador assíncrono. O usuário dispara a demanda e retorna meia hora depois para coletar o resultado final. No entanto, tempos de execução mais longos exigem que as empresas revisem a forma como monitoram e gerenciam processos automatizados de segundo plano.

Por que a compactação de contexto compromete a auditoria?

A constatação mais relevante do experimento de Willison ocorreu após a conclusão da tarefa. Ao solicitar o código Python exato utilizado para calcular as rotas e consultar as APIs, o ChatGPT Work não conseguiu fornecer as linhas de comando. O sistema havia aplicado uma compactação de contexto — técnica usada para reduzir o histórico da conversa —, eliminando o código executado nos bastidores.

Esse comportamento exige diferenciar o que a fonte apurou da leitura prática para o mercado:

• Apuração da fonte: O agente gerou os arquivos finais de visualização, mas a lógica intermediária executada no sandbox desapareceu do histórico do chat.
• Consequência prática: Processos corporativos que exigem conformidade, auditoria de código ou reprodutibilidade não podem depender do histórico padrão do chat. O código que não for salvo explicitamente no disco permanente é perdido.

Como proteger seus fluxos de trabalho contra perda de código?

Para evitar que a compactação de contexto destrua registros essenciais em execuções longas, os profissionais precisam ajustar a estrutura dos seus prompts imediatamente.

Adote as seguintes medidas de segurança em fluxos de automação:

1. Exija gravação em disco: Instrua o agente a salvar todo script e código intermediário em arquivos físicos dentro do diretório de trabalho (como /workspace/codigo.py) antes de encerrar o processo.
2. Exporte logs estruturados: Peça que o modelo gere um arquivo de log com os parâmetros de consulta e respostas de APIs externas.
3. Separe geração e execução: Em tarefas críticas, peça primeiro para o modelo escrever o código de automação e, em uma etapa separada, execute e valide os resultados.