Sua Empresa Usa Agentes de IA? Quem Responde se Algo Der Errado?

Dados recentes destacados pelo Olhar Digital mostram que 40% das organizações com receita superior a US$ 1 bilhão (cerca de R$ 5,7 bilhões) já estão escalando agentes autônomos de IA. O salto operacional é evidente, mas a segurança jurídica caminha em ritmo muito mais lento nas corporações.

Por que a autonomia dos agentes altera o risco corporativo?

Na primeira onda da inteligência artificial, o receio principal era a alucinação de um chatbot gerando informações imprecisas. Com os agentes autônomos, o cenário muda drasticamente, pois a máquina consulta sistemas corporativos, interage com outras ferramentas e executa tarefas sem intervenção humana contínua.

Segundo levantamento da Deloitte, apenas 21% das organizações possuem um modelo maduro de governança para essa tecnologia, embora 74% planejem utilizá-la em breve. A projeção do Gartner aponta que uma empresa média da Fortune 500 poderá operar mais de 150 mil agentes de IA até 2028, tornando impossível a supervisão manual individualizada.

Passo a passo: como estruturar a governança de agentes

A responsabilidade por uma falha nunca recairá sobre o software. Para blindar a operação e evitar prejuízos, as equipes de liderança precisam estabelecer marcos rigorosos de controle antes da implementação técnica.

• Mapeie todos os agentes: Crie um inventário detalhado de quais sistemas autônomos operam na organização, quais dados acessam e quais ferramentas acionam.
• Defina fronteiras rígidas de autonomia: Estabeleça exatamente o que a IA pode decidir sozinha (como triagem de dúvidas simples) e o que exige aprovação humana obrigatória (como contratos e descontos elevados).
• Atribua um gestor para cada agente: Designe um profissional responsável por auditar a lógica, revisar o desempenho e ajustar os limites operacionais do sistema.

Veredito: quem deve (e quem não deve) usar

Permitir que a tecnologia defina seus próprios limites com base apenas em sua capacidade de execução é um erro estratégico grave. Organizações que lidam com dados sensíveis ou transações financeiras não devem implantar agentes sem um modelo claro de auditoria e conformidade regulatória, como as diretrizes previstas no AI Act europeu.