Governança de agentes de IA em produção: limites por agente, alçada, trilha e reversão (checklist)

Governança de agentes de IA é o conjunto de limites, alçadas, registros e mecanismos de reversão que permite a um agente agir nos sistemas da empresa sem que ninguém perca o controle. Em produção, ela responde a quatro perguntas para cada agente: o que ele pode fazer, até quanto, como provar o que fez e como desfazer.

A diferença para a governança de IA que as empresas já conhecem é o verbo. Um assistente que resume contratos erra no texto; um agente que emite pedido, aprova pagamento ou libera uma guia erra no caixa. Por isso a governança de um agente não cabe numa política genérica de uso de IA: ela precisa estar escrita por agente, ligada à alçada do processo e medida caso a caso. Este artigo traz os níveis de autonomia, um checklist de 12 itens para colocar agentes em produção e um exemplo real de compras. A forma como a UpFlux aplica isso aos próprios agentes e aos de terceiros está em governança de agentes de IA.

Por que agentes pedem uma governança própria

O entusiasmo com agentes é grande, e a taxa de abandono também. Em comunicado de 25 de junho de 2025, o Gartner previu que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, por custos crescentes, valor de negócio pouco claro ou controles de risco inadequados. O mesmo comunicado estima que, até 2028, pelo menos 15% das decisões do dia a dia do trabalho serão tomadas de forma autônoma por IA agêntica.

As duas previsões juntas dizem o essencial: os agentes vão decidir mais, e os projetos que não conseguirem mostrar controle e valor vão ser desligados. Governança, nesse cenário, não é burocracia de compliance. É a condição para o agente sobreviver ao primeiro erro e à primeira pergunta do diretor financeiro.

Três características tornam o agente diferente de um robô de automação tradicional:

• Ele decide entre opções. O robô repete uma sequência fixa; o agente escolhe o fornecedor, o valor da contraproposta ou o próximo passo. Cada escolha precisa de uma regra que a limite.
• Ele age em mais de um sistema. Lê o ERP, escreve e-mail, consulta um portal. Cada acesso é uma superfície de risco.
• Ele convive com outros agentes. O agente do fabricante do ERP, o do CRM, o da área de cobrança. Dois agentes podem agir sobre o mesmo fornecedor no mesmo dia, com objetivos opostos.

Os níveis de autonomia

O primeiro passo é dizer, por escrito, em que nível cada agente opera. O nível define o controle exigido, e um mesmo agente pode estar em níveis diferentes conforme a faixa de valor.

Nível	O que o agente faz	Quem decide	Controle mínimo
0. Sugere	Analisa e recomenda; não toca no sistema	A pessoa, sempre	Registro da recomendação e da decisão humana
1. Prepara	Monta o documento (cotação, pedido, parecer) e deixa pronto para aprovação	A pessoa aprova cada caso	Trilha do que foi preparado e do que a pessoa mudou
2. Executa com aprovação por exceção	Executa dentro da alçada; o que sai da regra vai para a pessoa	O agente, dentro da regra; a pessoa, na exceção	Alçada escrita, amostragem periódica, reversão testada
3. Executa e reporta	Executa e informa depois	O agente, com revisão posterior	Tudo do nível 2, mais monitoramento contínuo e limite de volume por dia

A regra prática: ninguém começa no nível 3. O agente entra no nível 1, com aprovação caso a caso, e sobe de nível quando os números mostram que a pessoa quase não muda o que ele prepara.

Checklist de governança de agentes de IA em produção

Doze itens, em quatro grupos. Um agente que não passa em todos não deveria estar no nível 2.

Mandato

1. Escopo escrito. Quais processos, categorias, unidades e faixas de valor o agente atende, e o que está fora. "Compras indiretas abaixo de um valor definido, exceto serviços com mão de obra alocada" é um escopo; "ajudar o time de compras" não é.
2. Dono humano. Uma pessoa responde pelo agente: aprova mudança de regra, recebe as exceções e responde pelo resultado. Agente sem dono vira agente órfão na primeira troca de gestor.
3. Nível de autonomia por faixa. O nível da tabela acima, explícito para cada faixa de valor ou tipo de caso.

Limites

4. Alçada. Valor máximo por transação, por dia e por fornecedor; tolerância de preço; condições de pagamento aceitas. A alçada do agente nunca é maior que a da pessoa que responde por ele, e deve conversar com a política de compras e com a alçada de aprovação configurada no ERP.
5. Identidade própria no sistema. O agente opera com usuário próprio, com perfil de acesso mínimo, nunca com a credencial de uma pessoa. Assim, tudo o que ele fez aparece no ERP com o nome dele.
6. Dados que pode ler e escrever. A lista do que ele acessa, por sistema. Dado pessoal só quando o processo exige, e com a base legal da LGPD identificada.

Trilha

7. Registro por decisão. Para cada caso: a entrada (a requisição, a guia, a nota), os dados consultados, as opções consideradas, a regra aplicada, a saída e o número do documento gerado no sistema. A auditoria não depende de confiar no agente, depende de ler o registro.
8. Explicação legível. O registro precisa ser lido por um auditor ou um gestor, não só por um engenheiro. "Escolheu o fornecedor B: menor preço entre três propostas válidas, dentro da tolerância de 5% sobre o último preço pago" é uma explicação.
9. Detecção de conflito entre agentes. Quando dois agentes agem sobre o mesmo fornecedor, cliente ou documento, alguém precisa ver. É o tipo de problema que nenhum agente enxerga sozinho.

Reversão e medição

10. Reversão testada. Para cada ação, o caminho de desfazer: cancelar o pedido, estornar o lançamento, reabrir a guia. E o botão de parar o agente inteiro, com quem pode apertá-lo. Reversão que nunca foi testada não existe.
11. Indicadores por agente. Volume, taxa de exceção, taxa de alteração humana, erros encontrados na amostragem, custo de operação e resultado em reais. Sem isso, a subida de nível é opinião.
12. Revisão periódica. A cada ciclo (mensal no começo), o dono revisa os indicadores, a amostra de casos e as regras, e decide manter, subir, descer de nível ou desligar.

Exemplo em compras: um agente que negocia dentro da alçada

Compras é um bom laboratório de governança porque cada decisão tem valor em reais e documento no ERP. Imagine um agente que cota, negocia e emite pedidos na cauda de compras indiretas, num cenário hipotético:

Elemento	Regra do agente (hipotético)
Escopo	Material de manutenção, escritório e serviços pontuais; pedidos até R$ 20 mil
Fora do escopo	Matéria-prima, item crítico de produção, serviço com mão de obra alocada, fornecedor único
Fornecedores	Só cadastrados e aprovados; fornecedor novo vai para o comprador
Âncora de preço	Menor preço pago pelo item nos últimos 12 meses, quando existe
Tolerância	Até 5% acima da âncora, emite; acima disso, prepara e manda para o comprador
Nível de autonomia	Nível 1 nas primeiras semanas; nível 2 até R$ 5 mil depois da revisão; nível 1 de R$ 5 mil a R$ 20 mil
Registro	Requisição de origem, propostas recebidas, rodadas de contraproposta, regra aplicada, número do pedido
Reversão	Cancelamento do pedido no ERP antes do aceite do fornecedor, pelo comprador responsável
Indicadores	Pedidos por semana, % de exceção, % de pedidos alterados pelo comprador, saving em reais contra a primeira tomada de preço

Repare que o agente não "decide comprar": ele executa uma decisão que já foi tomada (a requisição aprovada) dentro de uma regra escrita por gente. O ganho vem de cobrir a cauda que ninguém negociava, com uma trilha mais completa do que a de um comprador sobrecarregado. Como medir esse retorno sem inflar está em ROI de agentes de IA em compras.

A reversão é o item mais esquecido

Nas conversas sobre agentes, escopo e alçada aparecem cedo. A reversão quase nunca. E é ela que define o tamanho do estrago quando algo sai errado.

Três perguntas ajudam a desenhá-la:

• Até quando dá para desfazer? Um pedido pode ser cancelado antes do aceite do fornecedor; depois, vira negociação. Um pagamento, depois de liberado, só volta com esforço. Quanto menos reversível a ação, mais baixo deve ser o nível de autonomia.
• Quem desfaz? O próprio agente, o dono humano ou a área de sistemas. Em qualquer caso, a ação de desfazer também entra na trilha.
• Como parar tudo? Um único comando que suspende o agente, com a fila de casos pendentes devolvida às pessoas. Quem tem esse poder precisa estar escrito, com substituto.

Uma boa prática é fazer um ensaio de reversão antes de subir para o nível 2: escolher um caso real, desfazer, conferir o resultado no sistema e cronometrar.

Normas e referências que ajudam

Não é preciso inventar a estrutura do zero. Três referências públicas dão a base:

• O AI Risk Management Framework do NIST, publicado em 26 de janeiro de 2023, organiza a gestão de risco de IA em quatro funções: governar, mapear, medir e gerenciar. Desde julho de 2024 tem um perfil específico para IA generativa.
• A ISO/IEC 42001:2023, publicada em dezembro de 2023, especifica requisitos para um sistema de gestão de IA na organização. Serve de esqueleto para quem já opera com normas de gestão.
• A LGPD, no art. 20, garante ao titular o direito de pedir a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. Agente que decide sobre pessoas (crédito, autorização, cadastro) precisa prever essa revisão.

Como medir se a governança funciona

Governança que não aparece em número vira documento de gaveta. Os indicadores abaixo, lidos por agente e por mês, mostram se o controle é real:

Indicador	O que mostra	Sinal de alerta
Taxa de exceção	Quanto do volume a regra não cobre	Subindo sem mudança no processo
Taxa de alteração humana	Quanto do que o agente prepara a pessoa muda	Alta no nível 2: a regra está errada ou o agente também
Erros na amostragem	Qualidade do que foi executado sem revisão	Qualquer erro com impacto financeiro
Ações fora do escopo tentadas	Se o agente tenta ir além do mandato	Diferente de zero
Conflitos com outros agentes	Sobreposição de mandatos	Recorrência com o mesmo fornecedor ou cliente
Custo por caso	Custo de operar o agente	Crescendo mais que o volume
Resultado em reais	O que o agente devolve, caso a caso	Sem método de cálculo escrito

A leitura caso a caso é o que a process intelligence faz com qualquer processo: reconstruir, a partir do registro, o caminho real de cada caso e compará-lo com o caminho desenhado. Aplicada ao agente, mostra onde ele desvia da regra, onde espera e onde entra em conflito. O post sobre onde aplicar IA nos processos mostra como escolher os primeiros casos, e o de agentes de IA no ERP TOTVS traz o roteiro para quem usa Protheus ou Datasul.

Perguntas frequentes

O que é governança de agentes de IA?

É o conjunto de limites, alçadas, registros e mecanismos de reversão que controla o que cada agente de IA pode fazer nos sistemas da empresa, até quanto, como o que ele fez é provado e como desfazer. Diferente de uma política geral de uso de IA, ela é escrita agente por agente e ligada ao processo em que ele atua.

Qual a diferença entre governança de IA e governança de agentes?

A governança de IA trata de modelos e usos em geral: dados de treino, viés, transparência. A governança de agentes acrescenta o que vem de o agente agir: alçada por transação, identidade própria no sistema, trilha por decisão, conflito com outros agentes e reversão.

Um agente de IA pode aprovar pagamentos sozinho?

Pode, se a ação estiver dentro de uma alçada escrita, com registro por decisão, amostragem periódica e reversão definida. Como pagamento é difícil de desfazer, o recomendado é começar com o agente preparando e a pessoa aprovando, e só ampliar a autonomia quando os indicadores mostrarem que a pessoa quase não altera o que ele prepara.

Como provar o que um agente de IA fez?

Com o registro por decisão: entrada, dados consultados, opções avaliadas, regra aplicada, saída e número do documento gerado no sistema. O agente deve operar com usuário próprio, para que tudo apareça no sistema com o nome dele, e o registro precisa ser legível por um auditor.

Quais normas ajudam na governança de agentes de IA?

O AI Risk Management Framework do NIST (2023), a ISO/IEC 42001:2023 para sistemas de gestão de IA e, no Brasil, a LGPD, cujo art. 20 garante a revisão de decisões automatizadas que afetem o titular dos dados.

Por que tantos projetos de agentes são cancelados?

Segundo o Gartner, por custos crescentes, valor de negócio pouco claro ou controles de risco inadequados. Os três pontos são de governança: sem indicador por agente não há como mostrar valor, e sem limite e reversão não há como controlar o risco.

Como a UpFlux faz

A UpFlux opera agentes em produção nos sistemas que a empresa já usa: em compras, o time digital cota, negocia e emite o pedido no Protheus, no Datasul e no SAP; em saúde, audita contas e autorizações no Tasy, no MV e no sistema da operadora, liberando o que está conforme e levando o restante ao médico auditor, que é quem decide uma negativa. Cada agente tem escopo, alçada e registro por decisão, como no Agente Negociador, e o resultado é medido em reais, transação por transação. A mesma leitura caso a caso, aplicada aos agentes da própria empresa e aos de terceiros, está em governança de agentes de IA, e o panorama dos agentes da UpFlux em agentes de IA.