Agentes: quando deixar o sistema agir sozinho
Quando é justificado
Quando o número de passos não é conhecido de antemão. Um processo fixo implementado como agente é um sistema caro e imprevisível onde um loop simples funcionaria. Um agente serve para investigação: 'encontre por que a fatura não bate'.
Três níveis de autonomia
Propõe para aprovação humana; age sozinho em ações reversíveis e direciona as irreversíveis para aprovação; e autônomo em um domínio definido com um histórico comprovado. A distinção entre reversível e irreversível é a decisão central de design.
O que deve existir antes de conectar permissões
Permissões mínimas; limites rígidos no código sobre número de passos, custo e tempo; um log completo de ações; e separação total entre conteúdo externo e instruções.
E uma regra prática: menos ferramentas, bem definidas. Quanto mais ferramentas, pior a escolha entre elas.
Indo mais fundo
Defina cada ferramenta como uma interface pública: um nome explícito, quando usá-la e quando não, um esquema estrito e erros que explicam o que corrigir. Faça ações sensíveis em dois passos — preparação e confirmação — e execute cenários projetados para fazê-lo falhar, incluindo entrada maliciosa, antes de ir ao ar.