Por Que a Anthropic Colocou Auditores Externos Dentro da Empresa?

Segundo reportagem da ZDNET, a Anthropic decidiu mudar a dinâmica de segurança da inteligência artificial ao colocar pesquisadores externos dentro de suas instalações. Seis avaliadores da organização sem fins lucrativos METR receberam crachás, espaço físico de trabalho e acesso a sistemas internos no mesmo nível das equipes que cuidam do alinhamento do Claude.

Por que dar acesso de funcionário a estranhos?

Até agora, laboratórios de IA testavam modelos de forma isolada e sob estrito controle corporativo. Ao abrir o ecossistema interno, a Anthropic tenta se antecipar ao FRONTIER Act, um projeto de lei em tramitação nos Estados Unidos que pretende exigir organizações independentes de verificação para checar o desenvolvimento de tecnologias de fronteira.

A empresa destacou que os auditores da METR não possuem ações nem dependência financeira da companhia. A única barreira para essa transparência envolve dados protegidos de clientes, informações sob sigilo jurídico e detalhes proprietários sobre a arquitetura dos modelos, mantidos sob proteção estrita.

Como funciona na prática

O acordo detalhado pela ZDNET estabelece regras operacionais específicas para equilibrar o rigor técnico e a proteção de segredos industriais:

• Estrutura física própria: A Anthropic disponibiliza computadores e mesas em seus escritórios para os avaliadores externos.
• Acesso a ferramentas internas: A equipe da METR navega por sistemas de risco equivalentes aos usados internamente pela desenvolvedora do Claude.
• Publicação livre: Os resultados dos testes são divulgados pela METR, cabendo à Anthropic apenas solicitar a remoção pontual de dados que possam ser aproveitados por agentes mal-intencionados.

Veredito: quem deve (e quem não deve) usar

Para profissionais e empresas que dependem de modelos fechados na rotina corporativa, a iniciativa traz mais previsibilidade jurídica e técnica. Saber que riscos de segurança estão sendo avaliados por uma entidade sem vínculos financeiros reduz as chances de paralisações repentinas e cobranças de órgãos reguladores, sinalizando um mercado mais maduro para a segunda-feira de manhã.