Autoridade para agentes de IA
Ter acesso não é ter autoridade.
A confiança num agente não se torna autoridade ilimitada.
Os agentes de IA já pagam faturas, alteram dados e preparam decisões, com as credenciais que lhes deram. O Adaptive Runtime fica entre os agentes e as ferramentas que usam. Antes de cada ação, decide se segue, se espera por uma pessoa ou se é recusada, e guarda prova disso.
- Pagar fatura Papelaria Central · 250 €SegueDentro dos limites: segue sem intervenção.
- Pagar fatura ACME Fornecimentos · 4 800 €EsperaAcima do limite: uma pessoa vê o pedido e decide.
- Apagar cliente C-1042RecusadaAção não autorizada para este agente.
Três pedidos do mesmo agente, decididos antes de chegarem ao sistema. Cada decisão fica registada.
O problema
Um agente com acesso a um sistema pode fazer tudo o que esse acesso permite.
O agente tem as chaves de quem o configurou.
As credenciais abrem o sistema inteiro. Não dizem até que montante, a quem, nem em nome de quem.
Um documento pode dar-lhe ordens.
Uma fatura, um email ou um ticket podem trazer instruções escondidas. O agente lê-as como se viessem de quem o usa.
No fim, ninguém sabe quem autorizou.
Os registos mostram o que correu. Não mostram quem autorizou, com que regras, nem se o que foi executado foi o aprovado.
O que faz
Os sistemas da organização não mudam. A autoridade passa a estar num sítio onde se vê, se decide e se prova.
Identifica
Que agente pede, e por conta de que pessoa, verificada no fornecedor de identidade da organização.
Decide
Pelas regras e limites da organização, e pelo que os seus sistemas sabem no momento.
Chama uma pessoa
Quando a ação compromete a organização. Quem aprova vê o que vai acontecer, e quem pediu não aprova.
Evidência
Cada decisão fica num registo que não se altera sem que se note. Numa ação aprovada, confirma que se executou o que foi aprovado.
Exemplos
Sete situações concretas em que o acesso de um agente de IA não deve significar autorização para agir.
Um pagamento fora dos limites
Um agente de contas a pagar recebe uma fatura de 25 000 € e prepara o pagamento no ERP.
Ler o exemplo →APOIO AO CLIENTE E SINISTROSUm reembolso fraudulento ou uma conta comprometida
Um agente responde a pedidos por email e chat, através do CRM, incluindo reembolsos e regularização de sinistros.
Ler o exemplo →RECURSOS HUMANOSO desvio do salário por alteração do IBAN
Um assistente de RH recebe um email aparentemente enviado por um trabalhador, a solicitar o pagamento do salário para uma conta no estrangeiro.
Ler o exemplo →OPERAÇÕES DE TIAlterações perigosas em produção
Um agente investiga um incidente, consulta registos, prepara uma correção no GitHub e interage com o Kubernetes.
Ler o exemplo →BANCA E SEGUROSUma decisão de crédito ou de sinistro sem responsável
Um agente analisa processos de crédito ou sinistros, incluindo documentos anexos, e prepara uma proposta de decisão.
Ler o exemplo →ADMINISTRAÇÃO PÚBLICAUm requerimento decidido sem autoridade
Um agente apoia a tramitação de um requerimento, desde a leitura até à preparação da notificação.
Ler o exemplo →ADVOGADOS E DEPARTAMENTOS JURÍDICOSUma peça processual entregue sem revisão
Um agente analisa correspondência, prepara peças e minutas e tem acesso à gestão de prazos e ao envio de documentos.
Ler o exemplo →Evidência para auditores e supervisores
Cada decisão fica registada: quem pediu, em nome de quem, quem aprovou e com que regras. O registo não pode ser alterado sem que isso se note, e cada decisão pode ser entregue a um auditor com a sua evidência. Ajuda a demonstrar a supervisão humana pedida pelo AI Act (art. 14.º) e o controlo e o registo pedidos pelo DORA, pelo RGPD e pela NIS2 (art. 21.º).