أمان نشر وكيل الذكاء الاصطناعي: اربط كل منشور بموافقة بشرية محددة

الإجابة أولًا: يستطيع الوكيل إعداد المسودة وتنظيم العمل، لكنه لا يستنتج حق النشر. اربط كل فعل خارجي بقرار بشري محدد، وامنحه أقل صلاحية وأضيق قائمة حسابات، وعامل النصوص المسترجعة كبيانات غير موثوقة، واحتفظ بمفتاح إيقاف لا يعتمد على طاعة النموذج.

عرّف كائن التفويض قبل كتابة الطلب

يجب أن يضم سجل الاعتماد مساحة العمل ومعرفات حسابات المزوّد وبصمة النسخة ومراجع الوسائط والنص البديل ونطاقات الروابط واللحظة المجدولة والمنطقة الزمنية وصاحب القرار ووقته وانتهاء صلاحيته. تغيير النص أو الصورة أو الوجهة أو الرابط أو الوقت ينشئ نسخة جديدة ويعيد المراجعة.

في سيناريو فريق سعودي يدير علامتين، لا تكفي عبارة «انشر حملة اليوم الوطني». القرار القابل للتدقيق هو: «جدول النسخة 17 إلى صفحة لينكدإن للعلامة الأولى وحساب فيسبوك العربي الساعة 9:00 صباحًا بتوقيت الرياض مع الأصلين المعتمدين». خدمة التفويض الحتمية تطابق الحمولة؛ ذاكرة الوكيل لا تفعل ذلك.

عامل حقن التعليمات كبيانات لا كسلطة

قد تحتوي صفحة ويب أو رسالة وارد أو تعليق أو صف CSV أو تقرير على عبارة تطلب تجاهل المراجع أو نشر السر أو توسيع الحسابات. تبقى هذه العبارة داخل حد بيانات غير موثوق. يجوز استخدامها لفهم الموضوع، ولا يجوز أن تغيّر السياسة أو الصلاحيات أو الوجهات أو مفتاح الإيقاف.

طبّق سياسة ثابتة وفحصًا حتميًا بعد التوليد: بنية الحقول، وقائمة الحسابات، ونطاقات الروابط، وأنواع الوسائط، واللغة، والمنطقة الزمنية، وبصمة القرار، ونطاقات المفتاح. أي اختلاف يعيد العنصر إلى إنسان.

استخدم أقل صلاحية وقوائم سماح صريحة

ابدأ بـchannels:read وposts:read. أعط posts:create لهوية تنشئ المسودات، ولا تمنح posts:schedule إلا للمكوّن الذي يثبت تطابق النسخة مع الاعتماد. استخدم OAuth مرتبطًا بالمستخدم عند دعمه، أو خزّن مفتاح API في مدير أسرار ودوّره عند تبدل المالك.

افصل الاختبار عن الإنتاج. قيّد معرفات مساحات العمل والحسابات ونوع العملية وحجم الدفعة. إذا سمّى الطلب حسابًا خارج القائمة، يفشل مغلقًا حتى لو كان الرمز يستطيع الوصول إليه تقنيًا.

دليل ضوابط نشر الوكيل

الضابط	الدليل المحتفظ به	الفشل الذي يمنعه
الضابطربط الاعتماد الدقيق	الدليل المحتفظ بهبصمة النسخة والحسابات والموعد والمعتمد والانتهاء	الفشل الذي يمنعهنشر نسخة معدلة أو محولة تحت قرار قديم
الضابطأقل صلاحية	الدليل المحتفظ بهمعرف بيانات الاعتماد ونطاقاتها دون السر	الفشل الذي يمنعهمنح عميل المسودات حق الجدولة أو التحليلات
الضابطقائمة الوجهات	الدليل المحتفظ بهمعرفات المساحة والحسابات في السياسة	الفشل الذي يمنعهاختيار حساب علامة أخرى من داخل الطلب
الضابطحد حقن التعليمات	الدليل المحتفظ بهمصدر النص وفئة الرفض	الفشل الذي يمنعهتحويل محتوى خارجي إلى أمر نظام
الضابطمفتاح الإيقاف	الدليل المحتفظ بهآخر تمرين وصاحب الإلغاء وخطة المهام	الفشل الذي يمنعهاستمرار الأتمتة أثناء الحادث
الضابطسجل التدقيق	الدليل المحتفظ بهمعرفات وبصمات وقرارات وأوقات ونتائج	الفشل الذي يمنعهغياب المساءلة أو تسريب الخصوصية

صمم مفتاح الإيقاف للطوارئ

يجب أن يستطيع مسؤول حادث معلوم إيقاف تشغيل الوكيل وإلغاء بيانات الاعتماد وتجميد المواعيد المعلقة ومنع الحسابات المعتمدة. لا تجعل المسار يعتمد على كتابة طلب جديد للنموذج. وضّح أي إجراء يمنع الكتابة فعلًا وأي زر يخفي الواجهة فقط.

اختبره في مساحة منخفضة المخاطر: ألغ المفتاح، وتأكد أن أدوات الكتابة تختفي أو تفشل، واحصر المهام المعلقة، وحدد قرار كل مهمة. افحص الشبكات الأصلية أيضًا؛ فقد يكون المزوّد قبل الطلب قبل الإيقاف.

احتفظ بدليل مفيد دون كشف الخصوصية

سجّل معرف الطلب والمساحة والحساب وبصمة المحتوى وإصدار السياسة والقرار ومعرف بيانات الاعتماد والأداة والأوقات ومعرف نتيجة المزوّد والحالة النهائية. لا تسجل الرمز أو ملف الارتباط أو الرسالة الخاصة أو بيانات الاتصال أو النص الكامل غير المنشور في سجل واسع.

إذا احتاج العمل نسخة كاملة لإثبات القرار، فاحفظها داخل نظام الاعتماد بصلاحية ومدة احتفاظ معلومتين. في السجلات العامة استخدم بصمة ومرجعًا مقيدًا. وسجّل رفض حقن التعليمات بفئته بدل نسخ النص المؤذي إلى كل لوحة.

اختبر الفشل قبل منح كتابة إنتاجية

1. تطلب صفحة مسترجعة تجاهل المراجع؛ تُرفض العملية.
2. يتغير معامل UTM واحد بعد الاعتماد؛ تعاد المراجعة.
3. يكون الحساب صالحًا لكنه خارج قائمة الوكيل؛ يفشل الطلب مغلقًا.
4. تنتهي مهلة المزوّد بعد الإرسال؛ يُفحص الطلب القائم قبل أي إعادة.
5. يُفعّل الإيقاف مع مهام معلقة؛ تتوقف الكتابات ويصل الجرد للمسؤول.
6. يثبت تصدير السجل القرار دون أسرار أو محتوى عميل غير لازم.

استخدم دليل حوادث النشر للنتيجة الجزئية أو غير المؤكدة، وسير الموافقات لإدارة النسخ والمهل.

حدود ناشر والنمط الآمن

يوفر ناشر REST وMCP بنطاقات محددة في الباقات المؤهلة، ويخفي أدوات MCP الخارجة عن صلاحية المفتاح. هذا حد تفويض تقني وليس إثباتًا لقرار بشري محدد. لا يعد ناشر بأن كل عميل وكيل خارجي يطبق تلقائيًا اعتماد النسخة وقائمة الحسابات ومفتاح الإيقاف الخاص بمشغلك.

النمط الآمن هو اكتشاف للقراءة فقط، ثم مسودة، ثم مراجعة في سطح مسؤول، ثم مطابقة حتمية للنسخة المعتمدة، ثم طلب جدولة واحد ومطابقة النتيجة البعيدة. أبق إيقاف المشغّل وإلغاء المفتاح بيد الإنسان. راجع REST أم MCP قبل منح الكتابة، ودليل CSV إذا جهز الوكيل عددًا كبيرًا من الصفوف.

قائمة القرار

• المعتمد وقناة القرار معلومان.
• النص والوسائط والحسابات والروابط والوقت والمنطقة والنسخة والانتهاء مرتبطة.
• المحتوى المسترجع لا يغيّر السياسة ولا يكشف الأسرار.
• المفتاح والحسابات والعمليات وحجم الدفعة بأقل صلاحية.
• كل تعديل جوهري يعيد المراجعة.
• اختُبر الإيقاف دون تعاون النموذج.
• يثبت السجل القرار والنتيجة دون محتوى خاص زائد.
• تُطابق النتيجة لدى المزوّد قبل تكرار كتابة غير مؤكدة.

لا يصبح الوكيل جاهزًا للنشر حتى يستطيع المراجع إعادة بناء: من وافق على ماذا بالضبط، وإلى أي حساب، وفي أي وقت، وكيف يوقف المسار فورًا.