Quando a IA Diz Não na Mesa de Cirurgia: O Caso Claude

A transição de modelos de linguagem para ambientes físicos está criando novos desafios operacionais. Conforme apurado pelo portal The Decoder, pesquisadores da startup Exin Therapeutics testaram os limites de autonomia ao colocar um agente de IA no controle total de um procedimento cirúrgico em um mamífero vivo.

Como a IA Tomou as Rédeas da Cirurgia

A equipe forneceu ao Claude Sonnet 5 uma lista com 19 terapias gênicas possíveis, acesso a artigos científicos e um equipamento cirúrgico motorizado com câmeras. O modelo selecionou sozinho o medicamento, a região cerebral de origem das crises e as coordenadas estereotáxicas exatas, além de definir o volume e a velocidade da injeção.

Durante a operação, o agente monitorou o campo cirúrgico por vídeo em tempo real, realizando 32 observações para checar o progresso e verificar se havia sangramentos. Embora robôs cirúrgicos já sejam comuns, a diferença central foi a autonomia completa: o sistema tomou a decisão clínica e executou a entrega sem intervenção humana no planejamento.

Quando as Travas de Segurança Travam o Processo

O experimento revelou um gargalo prático importante para fluxos automatizados. No meio da cirurgia, uma queda de conexão gerou um erro de calibração. Como a posição calculada ficou fora do limite físico do equipamento, o agente se recusou a continuar e manteve a recusa apesar das tentativas de reinicialização.

Segundo Gabriel Ocana-Santero, CEO da Exin Therapeutics, a IA estava certa — ajustes manuais anteriores haviam desregulado o sistema. No entanto, com o animal anestesiado na mesa, o pesquisador precisou corrigir o código manualmente porque o modelo bateu o pé e se recusou a burlar seus próprios limites de segurança.

Vale a Pena para Laboratórios Automatizados?

• Autonomia Científica: Reduz o viés humano ao cruzar literatura acadêmica para escolher alvos terapêuticos complexos.
• Rigidez Operacional: Evita erros catastróficos ao respeitar limites, mas cria impasses difíceis de resolver em tempo real quando ocorrem falhas de hardware.
• Diferenças entre Modelos: Versões mais potentes, como o Claude Opus 5.5, recusaram-se a iniciar o procedimento por julgarem o risco de interrupção inaceitável.

Para equipes que projetam laboratórios automatizados, o caso demonstra que a confiabilidade de agentes exige protocolos claros de recuperação para o momento em que a máquina decide parar um processo sensível ao tempo.