בינה מלאכותית בפועל · מתקדם
סוכנים: מתי לתת למערכת לפעול לבד
בשורה אחת: סוכן מחליט בעצמו אילו פעולות לבצע — וכל הרווח והסיכון נמצאים בהרשאות שנתתם לו.
מתי זה מוצדק
כשמספר הצעדים אינו ידוע מראש. תהליך קבוע שמומש כסוכן הוא מערכת יקרה ובלתי צפויה במקום שבו לולאה פשוטה עובדת. סוכן מתאים לחקירה: "מצא למה החשבונית לא תואמת".
שלוש רמות עצמאות
מציע לאישור אנושי; פועל לבד בפעולות הפיכות ומעביר לאישור פעולות בלתי הפיכות; ועצמאי בתחום מוגדר עם היסטוריה מוכחת. ההבחנה בין הפיך לבלתי הפיך היא ההחלטה המרכזית בעיצוב.
מה חייב להיות לפני שמחברים הרשאות
הרשאות מינימליות; מגבלות קשיחות בקוד על מספר צעדים, עלות וזמן; יומן פעולות מלא; והפרדה מוחלטת בין תוכן חיצוני לבין הוראות.
וכלל מעשי: פחות כלים, מוגדרים היטב. ככל שיש יותר כלים, כך הבחירה ביניהם גרועה יותר.
לעומק
הגדירו כל כלי כמו ממשק ציבורי: שם מפורש, מתי להשתמש ומתי לא, סכמה נוקשה, ושגיאות שמסבירות מה לתקן. הפכו פעולות רגישות לדו־שלביות — הכנה ואישור — והריצו תרחישים שנועדו להכשיל, כולל קלט זדוני, לפני העלייה לאוויר.