Why Anthropic Just Handed Outside Auditors Full Employee Access

Segundo apuração da ZDNET, a Anthropic decidiu romper com a tradição de opacidade dos laboratórios de inteligência artificial ao colocar pesquisadores externos debaixo do seu próprio teto. Seis avaliadores da organização sem fins lucrativos METR ganharam crachás, estações de trabalho físicas e permissões de sistema equivalentes às da equipe interna de avaliação de riscos.

O que muda com o acesso interno?

Diferente de testes superficiais baseados apenas em APIs públicas, os auditores agora usam hardware da própria Anthropic e navegam por ferramentas internas. A única restrição imposta pela empresa envolve dados protegidos de clientes, sigilo jurídico e segredos industriais sobre a arquitetura dos modelos do Claude.

A iniciativa segue uma proposta publicada pelo CEO Dario Amodei em setembro. Para a METR, a vantagem central é a independência: por não terem participação acionária na empresa avaliada, os pesquisadores mantêm total liberdade para publicar descobertas sem que a Anthropic possa barrar os resultados.

Como funciona na prática

Na rotina diária da parceria revelada pela ZDNET, o processo de auditoria opera sob regras específicas de transparência e salvaguardas:

• Infraestrutura dedicada: A Anthropic fornece computadores e espaço físico em escritórios próprios para a equipe da METR.
• Liberdade de circulação digital: Os auditores acessam sistemas internos de alinhamento com encorajamento explícito para compartilhar informações como se fossem da casa.
• Publicação obrigatória: A METR divulga seus relatórios de risco de forma independente, com pedidos de edição restritos estritamente a informações sensíveis de segurança.

Vale a pena para a sua rotina?

Para quem trabalha com desenvolvimento ou implantação de tecnologia, o movimento indica que a era da autorregulamentação baseada apenas em promessas voluntárias está chegando ao fim. Com o avanço de propostas como o projeto de lei FRONTIER Act nos Estados Unidos e investigações crescentes de órgãos governamentais, ter avaliações independentes reais reduz o risco de paralisações repentinas por falhas graves de segurança em modelos corporativos.