Agenten: wann man das System allein handeln lässt
Wann er gerechtfertigt ist
Wenn die Zahl der Schritte nicht im Voraus bekannt ist. Ein fester Prozess als Agent umgesetzt ist ein teures, unvorhersehbares System, wo eine einfache Schleife funktionieren würde. Ein Agent passt zur Untersuchung: „finde, warum die Rechnung nicht passt“.
Drei Stufen der Autonomie
Schlägt zur menschlichen Freigabe vor; handelt bei umkehrbaren Aktionen allein und leitet unumkehrbare zur Freigabe; und autonom in einer definierten Domäne mit bewährter Erfolgsbilanz. Die Unterscheidung zwischen umkehrbar und unumkehrbar ist die zentrale Entwurfsentscheidung.
Was vor dem Anbinden von Berechtigungen bestehen muss
Minimale Berechtigungen; harte Grenzen im Code für Schrittzahl, Kosten und Zeit; ein vollständiges Aktionsprotokoll; und vollständige Trennung zwischen externem Inhalt und Anweisungen.
Und eine praktische Regel: weniger Werkzeuge, gut definiert. Je mehr Werkzeuge es gibt, desto schlechter die Wahl unter ihnen.
Im Detail
Definieren Sie jedes Werkzeug wie eine öffentliche Schnittstelle: einen expliziten Namen, wann es zu nutzen ist und wann nicht, ein strenges Schema und Fehler, die erklären, was zu beheben ist. Machen Sie sensible Aktionen zweistufig — Vorbereitung und Bestätigung — und führen Sie Szenarien aus, die es zum Scheitern bringen sollen, inklusive böswilliger Eingabe, vor dem Livegang.