أساس القرار
عامل الوثائق والبريد ومخرجات النموذج كمدخلات غير موثوقة. وجود أمر في نص لا يمنحه سلطة. تعد OWASP الحقن والاستقلالية المفرطة مخاطر؛ يجب فرض الحدود خارج صياغة النموذج.
مثال عملي
يطلب بريد مورّد افتراضي تجاهل القواعد وتصدير العملاء. هو مادة للتحليل، لا جهة مخولة. حتى لو طلب النموذج التصدير، يتحقق التطبيق من المستخدم والوجهة والفعل المعتمد.
البدائل وتبعاتها
للمساعد القارئ فقط مساحة أفعال أصغر. عند الكتابة، قدّم أداة ضيقة ومعلمات متحققاً منها وتأكيداً واضحاً. قد يناسب نموذج اعتماد تقليدي القرارات المهمة أكثر.
أين تتعثر الخطة
لا تضع بيانات اعتماد في prompt، ولا تجعل «لا تكشف الأسرار» بديلاً للصلاحيات. قيّد الأدوات والبيانات وافصل العملاء قبل الاسترجاع. اختبر تعليمات عدائية في المرفقات.
اجعل التفويض تابعاً للأمر
حدّد قدرات ضيقة كقراءة الطلبات الخاصة بالمستخدم أو إعداد مسودة. خذ المستخدم والمؤسسة من الجلسة المصادقة، لا من البريد أو معاملات النموذج. افحص ملكية السجل على الخادم. السماح باسم أداة لا يكفي إذا وجّهتها المعاملات إلى عميل أو وجهة أو نطاق آخر.
اعرض معاينة الأفعال المؤثرة. اربط الموافقة بالسجل والفعل والمعاملات المحددة، لا بكلمة «نعم» عامة. أي تغيير يستدعي قراراً جديداً. القراءة قد تكشف معلومات أيضاً؛ لذلك طبّق الحقوق على البحث والمقاطع المعادة، وليس الكتابة وحدها.
تدرّب على الرفض والتعليق الآمن
اختبر مرفقاً عدائياً افتراضياً يطلب بيانات حساب آخر بجانب طلب مشروع، دون بيانات عملاء حقيقية. يجب منع كل قراءة وكتابة وإرسال غير مأذون حتى لو اقترح النموذج أداة غير مناسبة. افحص إن كانت رسالة الخطأ تكشف وجود سجل محمي.
اسمح بتعطيل أداة أو مصدر مع استمرار الوظائف الآمنة. حدّد مصير العمل المنتظر بعد سحب الإذن. سجّل المراجع وقرارات التفويض وأخطاء آمنة بوصول محدود، بلا أسرار أو محتوى غير ضروري. كرر المراجعة عند إضافة قدرات. نجاح اختبار يضيّق مخاطر معروفة، ولا يثبت القضاء الكامل على حقن التعليمات.
قبل بدء التنفيذ
ماذا يقرأ ويغير ويرسل؟ ماذا يفرض الخادم؟ وما الدليل بعد الرفض؟ كرر الفحص عند تغير الأدوات أو المصادر.