מדיניות
שכבת המדיניות של גבורה רשאית לסרב. היא נסגרת כברירת מחדל, מסרבת כשאי אפשר לאמת ומתעדת את הסיבה בכל פעם.
מודל האוטונומיה
L3 בפרודקשן, וצעד אוטומטי לאחור ברגע שזה חשוב.
אוטונומיה היא הגדרה לכל פעולה. הערך האמיתי הוא שהמערכת יודעת לרדת לבד ברגע שהפעולה הופכת לבלתי הפיכה.
הסולם
אוטונומיה היא הגדרה, והיא צריכה לזוז.
רוב הארגונים מתייחסים לאוטונומיה כהחלטה אחת. או שמותר לסוכן לפעול או שלא, ומפני שאיש אינו רוצה להיות האדם שאישר אותו, כמעט הכול נעצר בשלב הטיוטה. התוצאה היא מערכת שמייצרת הצעות שאדם צריך לבצע בעצמו ממילא.
כשמתייחסים לאוטונומיה כסולם, השאלה מפסיקה להיות עד כמה אפשר לסמוך על הסוכן. השאלה הופכת להיות לאיזה שלב שייכת הפעולה המסוימת הזאת, ולשאלה הזאת יש תשובה.
| רמה | מה המערכת עושה | איפה האדם |
|---|---|---|
| L0 Observe | צופה ומדווחת. אינה משנה דבר. | קורא את הדוח. |
| L1 Draft | מכינה את התוצר ועוצרת. | עורך ושולח אותו. |
| L2 Prepare | מכינה את הפעולה במלואה לביצוע. | מאשר, ואז הפעולה מבצעת את עצמה. |
| L3 Bounded execute | פועלת בתוך גבול מוגדר ומתעדת את מה שעשתה. | בודק בדיעבד ומקבל התראה על חסימה. |
| L4 High autonomy | מריצה לולאה מלאה, כולל ההחלטה במה לטפל. | קובע את הגבול וקורא את הפנקס. |
גבורה רצה ב-L3, וחלק מהזרימות ב-L4. זה תיאור כן של מצב הפעלה, לא שאיפה.
המנגנון
פעולה בלתי הפיכה מורידה את הזרימה אוטומטית ל-L2.
זה הכלל השימושי ביותר במערכת, ואפשר לנסח אותו בשורה אחת. כשזרימה שרצה ב-L3 או ב-L4 מגיעה לפעולה שאי אפשר לבטל, היא אינה מבקשת שיקול דעת לגבי בטיחות הפעולה המסוימת. היא יורדת ל-L2, מכינה את הפעולה ומחכה לאדם.
שלוש קטגוריות מוגדרות כאן כבלתי הפיכות: כסף, פרסום וכל הודעה ללקוח. אי אפשר לבטל שליחת הודעה, אי אפשר לבטל פרסום של משהו שכבר נקרא, והחזר כספי הוא אירוע שני ולא ביטול של הראשון.
- הגבול נקבע לכל פעולה, לא לכל סוכן. אותו סוכן רץ ללא פיקוח בעבודה הפיכה ועוצר בצעד הבלתי הפיך בתוך אותה זרימה.
- הורדה אינה מצב כשל. הפעולה המוכנה שומרת את מלוא ההקשר, ולכן האישור הוא החלטה אחת ולא הרצה מחדש.
- ההורדה נרשמת. כך אפשר לגלות בדיעבד באילו חלקים של העסק המערכת באמת רשאית לגעת.
למה זה עונה על השאלה האמיתית של המפעיל
השאלה כמעט אף פעם אינה אם מערכת AI מסוגלת לבצע את העבודה. השאלה היא מה קורה בפעם הראשונה שהיא טועה בביטחון לגבי דבר יקר. כאן התשובה מבנית: בנקודה שבה טעות הופכת ליקרה, המערכת כבר אינה זו שמחליטה.
תצפית
רוב ההטמעות תקועות ב-L2, והסיבה אינה המודל.
המעבר מ-L2 ל-L3 דורש שלושה דברים שאין להם קשר לאיכות המודל: גבול מדויק מספיק כדי לאכוף בקוד, רשומה מלאה מספיק כדי לשחזר מה קרה ומסלול אמין בחזרה למטה כשהפעולה מתגלה כבלתי הפיכה. צוותים שקופצים ישירות לסוכנים אוטונומיים בלי שלושת אלה חוזרים לאישור של כל פעולה אחרי השבוע הרע הראשון.
זו אותה מסקנה שהתעשייה מגיעה אליה שוב ושוב מהכיוון השני. פרויקטים סוכניים כמעט אף פעם אינם נכשלים בגלל יכולת. הם נכשלים בממשל ובעקיבות, בדיוק בשכבה שאין בה זוהר, שקשה לבנות ואי אפשר להדביק בדיעבד.
מגבלה
שכבת השיגור הלא מפוקחת כבויה מאז 19 במאי. מצב ההפעלה הוא מקביליות מפוקחת עם הורדה אוטומטית, והמספרים באתר מתארים את המצב הזה ולא הפעלה ללא השגחה.