Agents : quand laisser le système agir seul
Quand c'est justifié
Quand le nombre d'étapes n'est pas connu à l'avance. Un processus fixe implémenté comme agent est un système coûteux et imprévisible là où une simple boucle fonctionnerait. Un agent convient à l'investigation : « trouve pourquoi la facture ne correspond pas ».
Trois niveaux d'autonomie
Propose à l'approbation humaine ; agit seul sur les actions réversibles et dirige les irréversibles à l'approbation ; et autonome dans un domaine défini avec un bilan prouvé. La distinction entre réversible et irréversible est la décision centrale de conception.
Ce qui doit exister avant de connecter les permissions
Des permissions minimales ; des limites rigides dans le code sur le nombre d'étapes, le coût et le temps ; un journal complet des actions ; et une séparation totale entre le contenu externe et les instructions.
Et une règle pratique : moins d'outils, bien définis. Plus il y a d'outils, plus le choix parmi eux est mauvais.
Pour aller plus loin
Définissez chaque outil comme une interface publique : un nom explicite, quand l'utiliser et quand ne pas l'utiliser, un schéma strict et des erreurs qui expliquent quoi corriger. Rendez les actions sensibles en deux étapes — préparation et confirmation — et exécutez des scénarios conçus pour le faire échouer, y compris des entrées malveillantes, avant le lancement.