السياسة
طبقة السياسة في Gevurah مخولة بالرفض. تُغلق افتراضيا، وترفض عندما يتعذر التحقق، وتسجل السبب في كل مرة.
نموذج الاستقلالية
L3 في الإنتاج، وخطوة تلقائية إلى الخلف عندما تصبح المخاطر حقيقية.
الاستقلالية إعداد لكل إجراء. القيمة العملية أن النظام يخفض المستوى تلقائيا عند الوصول إلى خطوة لا يمكن التراجع عنها.
السلم
الاستقلالية إعداد، وينبغي أن يتحرك.
تتعامل معظم المؤسسات مع الاستقلالية كقرار واحد. إما أن يُسمح للوكيل بالتصرف أو لا، ولأن أحدا لا يريد أن يكون الشخص الذي سمح له، تتوقف معظم الأعمال عند إعداد المسودة. والنتيجة نظام ينتج اقتراحات يتعين على الإنسان تنفيذها بنفسه على أي حال.
إذا عوملت الاستقلالية كسلم، يتوقف السؤال عن مقدار الثقة بالوكيل. ويصبح السؤال: على أي درجة تقع هذه العملية المحددة؟ وهذا سؤال يمكن الإجابة عنه.
| المستوى | ما يفعله النظام | موضع الإنسان |
|---|---|---|
| L0 Observe | يراقب ويبلغ، ولا يغير شيئا. | يقرأ التقرير. |
| L1 Draft | ينتج المادة ويتوقف. | يحررها ويرسلها. |
| L2 Prepare | يجهز الإجراء بالكامل ويجعله مستعدا للتنفيذ. | يوافق، ثم ينفذ الإجراء نفسه. |
| L3 Bounded execute | يتصرف داخل حدود محددة ويسجل ما فعله. | يراجع لاحقا ويتلقى تنبيها عند الحجب. |
| L4 High autonomy | يشغل دورة كاملة، بما فيها اختيار ما سيعمل عليه. | يضع الحدود ويقرأ الدفتر. |
تعمل Gevurah عند L3، وتعمل بعض التدفقات عند L4. هذا وصف صادق لحالة التشغيل وليس طموحا.
الآلية
الإجراء غير القابل للعكس يخفض التدفق تلقائيا إلى L2.
هذه أكثر قاعدة عملية في النظام ويمكن صياغتها في سطر واحد. عندما يصل تدفق يعمل عند L3 أو L4 إلى إجراء لا يمكن التراجع عنه، لا يطلب حكما خاصا عما إذا كان هذا الإجراء آمنا. يهبط إلى L2، ويجهز الإجراء، وينتظر شخصا.
ثلاث فئات تُعد غير قابلة للعكس بالتعريف هنا: المال والنشر وأي رسالة إلى عميل. لا يمكن إلغاء إرسال رسالة، ولا إلغاء نشر شيء قرأه الناس بالفعل، ورد المال حدث ثان وليس محوا للحدث الأول.
- الحد لكل إجراء، لا لكل وكيل. يعمل الوكيل نفسه بلا إشراف في العمل القابل للتراجع، ويتوقف عند الخطوة غير القابلة للعكس داخل التدفق نفسه.
- الخفض ليس حالة فشل. يحتفظ الإجراء المجهز بسياقه الكامل، ولذلك تكون الموافقة قرارا واحدا لا إعادة تشغيل.
- يُسجل الخفض. وهكذا يمكن معرفة الأجزاء التي يُسمح للنظام فعليا بلمسها في النشاط.
لماذا يجيب هذا عن سؤال المشغل الحقيقي
نادرا ما يكون السؤال هل يستطيع نظام الذكاء الاصطناعي إنجاز العمل. السؤال هو ما الذي يحدث في المرة الأولى التي يخطئ فيها بثقة بشأن شيء مكلف. الإجابة هنا بنيوية: عند النقطة التي يصبح فيها الخطأ مكلفا، لا يعود النظام هو صاحب القرار.
ملاحظة
معظم عمليات النشر عالقة عند L2، والسبب ليس النموذج.
يتطلب الانتقال من L2 إلى L3 ثلاثة أمور لا علاقة لها بجودة النموذج: حدودا دقيقة بما يكفي لفرضها في الشفرة، وسجلا كاملا بما يكفي لإعادة بناء ما حدث، ومسارا موثوقا للعودة إلى الأسفل عندما يتبين أن الإجراء غير قابل للعكس. الفرق التي تقفز مباشرة إلى الوكلاء المستقلين من دون هذه العناصر تعود إلى الموافقة على كل شيء بعد أول أسبوع سيئ.
هذه هي النتيجة نفسها التي تصل إليها الصناعة مرارا من الاتجاه الآخر. نادرا ما تفشل المشاريع الوكيلة بسبب القدرة. تفشل بسبب الحوكمة وقابلية التتبع، وهي تحديدا الطبقة غير البراقة في البناء والتي يستحيل إضافتها بأثر رجعي.
الحد
طبقة الإرسال غير الخاضعة للإشراف متوقفة منذ 19 مايو. وضع التشغيل هو توازٍ تحت الإشراف مع خفض تلقائي، والأرقام في هذا الموقع تصف هذا الوضع لا وضعا يعمل بلا إشراف كامل.