مذكرة مختبر · · 9 دقائق قراءة

بناء وكلاء AI موثوقين: هندسة الأوامر المهيكلة

الوكيل الذي يخرج نصًا حرًا غير موثوق. الفرق بين تجربة لطيفة ونظام يُعتمد عليه هو مخرجات مهيكلة، حدود واضحة، ومسار فشل معلن.

ذكاء اصطناعيوكلاءهندسة الأوامر

بعد بناء عدة وكلاء يعملون في مسارات أمنية حقيقية، أصبح عندي معيار واحد للحكم: هل يمكن أن يفشل الوكيل بطريقة مفهومة؟ الوكيل الذي يعطي إجابة جميلة عند النجاح وغموضًا كاملًا عند الفشل غير قابل للاستخدام في أي مسار يُبنى عليه قرار.

1. مخرجات مهيكلة لا نص حر

الحلقة الأضعف في الوكلاء هي المرحلة التي يتحول فيها رد النموذج إلى قيمة يستخدمها الكود. لذلك يُطلب من النموذج دائمًا شكل ثابت: قرار، ثقة رقمية، وسبب قصير — بحقول معروفة مسبقًا. إن لم يطابق الرد الشكل، فالرد مرفوض لا «مُصلَّح بذكاء».

2. الحالات الأربعة إلزامية

  • نجاح: قرار واضح مع سبب.
  • فشل معروف: خطأ قابل للتصنيف (مهلة، حقل مفقود، صيغة خاطئة).
  • حدود: الطلب خارج نطاق الوكيل: يجب أن يرفض بوضوح لا أن يخمّن.
  • مجهول: الحالة الأخطر — إن لم يستطع الوكيل التصنيف، يعيد الحالة للمسار البشري أو لمسار احتياطي معلن.
القاعدة التي ألتزم بها: عند الجهل تكون النتيجة «لا أعرف» الممرّرة كقيمة صريحة، لا إجابة تخمينية. أي وكيل في مسار أمني يجب أن يكون جاهزًا ليقول «لا أعرف».

3. المهلة الزمنية جزء من المنطق لا من الإعدادات

لا يجوز أن يعتمد استقرار النظام على مزاج خدمة خارجية. المهلة تُحدَّد في الكود، ويوجد مسار بديل محدد مسبقًا عند تجاوزها. في حالتنا، المسار البديل هو التحفظ (تحدٍ أو تأخير) لا القرار الجازم.

4. التسجيل الكامل لكل نداء

كل نداء وكيل يُسجَّل مع: الإدخال، الشكل المطلوب، الرد كما وصل، القرار النهائي، وزمن النداء. بلا هذا السجل لا يمكن الإجابة على أهم سؤال تشغيلي: لماذا اتخذ الوكيل هذا القرار في تلك الحالة؟

5. تقييم قبل النشر لا بعده

قبل أن يعمل أي وكيل على مسار حقيقي، يُختبر على مجموعة حالات محضّرة بغرض تعمّده: حالات واضحة، حالات على الحدود، وحالات خبيثة تُصاغ لإغراء النموذج بالخروج عن الشكل. الوكيل الذي لا يمرّ بمجموعة الحدود لا يُنشر.

6. لا تنفيذ من داخل النموذج

النموذج يقترح، والبرنامج ينفّذ بعد التحقق. أي خطوة تنفيذ مباشر (تشغيل أمر، تعديل بيانات، إرسال طلب خارجي) تكون خارج النموذج، بصلاحيات محددة، وبسجل تدقيق. هذا الفصل هو ما يمنع «هلوسة تُنفَّذ».

الخلاصة في سطرين

الوكيل الموثوق ليس الأذكى، بل الأكثر قابلية للتفسير عند الفشل. إذا عرفت دائمًا لماذا قرر ما قرر، ولماذا رفض ما رفض، فأنت تبني نظامًا؛ وإلا فأنت تبني عرضًا تقديميًا.