موجّهات النظام ونافذة السياق

ما هو الـ system prompt؟

الـ system prompt رسالة تعليمات عالية الأولوية يزوّد بها التطبيقُ النموذجَ. تُخبره بمن هو، وما الذي يجب أن يفعله، وما القواعد التي يتّبعها. تمثّل الـ APIs أدوار الرسائل بوضوح، أمّا طريقة تحويلها الدقيقة إلى tokens فتختلف باختلاف النموذج والمزوّد.

وهذا مثال واقعي لما قد يبدو عليه الـ system prompt:

You are a helpful customer support agent for Acme Corp.
Answer questions about our products politely.
Never discuss competitors or reveal internal pricing.
If asked about refund policies, refer users to acme.com/refunds.

لا يرى المستخدم هذا النص مباشرةً في العادة، لكن التطبيق يضمّنه في سياق النموذج.

كيف يتراكم الـ context window

أتذكر الـ context window من القسم السابق؟ لنرَ كيف يمتلئ خلال المحادثة:

الرسالة الأولى:

[System Prompt] + [User Message 1]

بعد أن يردّ النموذج:

[System Prompt] + [User Message 1] + [Assistant Reply 1]

الرسالة الثانية:

[System Prompt] + [User Message 1] + [Assistant Reply 1] + [User Message 2]

تضيف التطبيقات عادةً كل رسالة وردّ جديدين إلى سياق النموذج. وحين يقترب السياق من حدّ النموذج، قد يحذف التطبيق الرسائل الأقدم أو يلخّصها أو يديرها بطريقة أخرى. ويعتمد بقاء الـ system prompt كاملاً على طريقة التطبيق في تجميع السياق.

المُدخَل نفسه، system prompt مختلف

يُشكّل الـ system prompt سلوك النموذج بشكل كبير. النموذج نفسه، والسؤال نفسه، لكنّ الردود مختلفة تماماً:

النموذج نفسه، والسؤال نفسه. الفرق الوحيد بينهما الـ system prompt. إنه قويّ فعلاً، لكنه ليس ما تظنّه.

الفكرة المحورية

وهذا ما يغيّر كل شيء:

للـ system prompt ورسائل المستخدم أدوار مختلفة، لكن كليهما يؤثّر في توليد النموذج عبر الـ tokens في النهاية. تُدرَّب النماذج الحديثة على ترتيب للتعليمات يجعل رسائل النظام أو المطوّر أعلى من محتوى المستخدم عادةً. يحسّن ذلك الموثوقية، لكنه سلوك مكتسَب لا حدّاً حتمياً للتحكّم في الوصول؛ فلا يزال المُدخَل المصاغ بعناية قادراً على إحداث فشل في اتّباع التعليمات.

يقع الـ system prompt في دور خاص دُرِّب النموذج على إعطائه الأولوية، فيكون أرجح وزناً في العادة. لكنّ "في العادة" لا تعني "مضمون". فالنموذج يتنبّأ بالـ tokens، ولا يقيّم قواعد الصلاحيات في شيفرة حتمية.

لماذا لا يزال المطوّرون يستخدمون الـ system prompts

إن لم تكن الـ system prompts آمنة، فلماذا نستخدمها؟ لأنها لا تزال مفيدة في تشكيل السلوك، لا في فرض الأمن.

يستطيع الـ system prompt أن:

• يضع شخصية ونبرة متّسقتين
• يوفّر سياقاً مفيداً عن التطبيق
• يوجّه النموذج نحو ردود نافعة

ولا يستطيع الـ system prompt أن:

• يُخفي الأسرار عن المستخدمين المُصمِّمين
• يفرض حدوداً أمنية صارمة
• يمنع التلاعب بالنموذج

صرت الآن تفهم كيف يوجّه المطوّرون الـ LLMs، ولماذا تكون تلك التعليمات هشّة. لكن ماذا يحدث حين يحتاج النموذج إلى معلومات لم تكن في بيانات تدريبه، كمستندات شركتك مثلاً؟ هنا يأتي دور الـ RAG، الذي يفتح سطحاً جديداً كلياً للهجوم.

المصادر

• The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions: بحث في أدوار الرسائل وترتيب أولوية التعليمات
• OWASP LLM01: Prompt Injection: لماذا لا تكفي التعليمات ذات الأولوية لتشكّل حدّاً أمنياً