موجّهات النظام ونافذة السياق

ما هو الـ system prompt؟

الـ system prompt كتلة نصّية يكتبها المطوِّر ويضعها في مقدّمة كل محادثة. تُخبر النموذج بمن هو، وما الذي يجب أن يفعله، وما القواعد التي يتّبعها.

وهذا مثال واقعي لما قد يبدو عليه الـ system prompt:

You are a helpful customer support agent for Acme Corp.
Answer questions about our products politely.
Never discuss competitors or reveal internal pricing.
If asked about refund policies, refer users to acme.com/refunds.

لا يرى المستخدم هذا النص مباشرةً أبداً. لكن النموذج يقرؤه قبل كل رسالة على حدة.

كيف يتراكم الـ context window

أتذكر الـ context window من القسم السابق؟ لنرَ كيف يمتلئ خلال المحادثة:

الرسالة الأولى:

[System Prompt] + [User Message 1]

بعد أن يردّ النموذج:

[System Prompt] + [User Message 1] + [Assistant Reply 1]

الرسالة الثانية:

[System Prompt] + [User Message 1] + [Assistant Reply 1] + [User Message 2]

تضيف كل دورة مزيداً من النص، فيمتلئ الـ context window تدريجياً. وفي النهاية تسقط الرسائل الأقدم لإفساح المجال، لكنّ الـ system prompt يبقى عادةً.

المُدخَل نفسه، system prompt مختلف

يُشكّل الـ system prompt سلوك النموذج بشكل كبير. النموذج نفسه، والسؤال نفسه، لكنّ الردود مختلفة تماماً:

النموذج نفسه، والسؤال نفسه. الفرق الوحيد بينهما الـ system prompt. إنه قويّ فعلاً، لكنه ليس ما تظنّه.

الفكرة المحورية

وهذا ما يغيّر كل شيء:

الـ system prompt ورسائل المستخدم شيء واحد من حيث النوع: نصّ. يعالجهما النموذج في تدفّق واحد متّصل من الـ tokens. لا حدّ صارم أو مفروض يفصل بين "هذا موثوق" و"هذا غير موثوق"، بل مجرّد ميل مكتسَب وليّن لترجيح الـ system prompt، وهو ميل يسهل على مُدخَل ذكي تجاوزه. لا تحكّم في الوصول. لا فصل للصلاحيات.

يقع الـ system prompt في دور خاص دُرِّب النموذج على إعطائه الأولوية، فيميل إلى ترجيحه أكثر. لكنّ "يميل إلى" لا تعني "مضمون". فالنموذج يتنبّأ بالنص، لا ينفّذ شيفرةً محكومة بقواعد أمنية.

لماذا لا يزال المطوّرون يستخدمون الـ system prompts

إن لم تكن الـ system prompts آمنة، فلماذا نستخدمها؟ لأنها لا تزال مفيدة في تشكيل السلوك، لا في فرض الأمن.

يستطيع الـ system prompt أن:

• يضع شخصية ونبرة متّسقتين
• يوفّر سياقاً مفيداً عن التطبيق
• يوجّه النموذج نحو ردود نافعة

ولا يستطيع الـ system prompt أن:

• يُخفي الأسرار عن المستخدمين المُصمِّمين
• يفرض حدوداً أمنية صارمة
• يمنع التلاعب بالنموذج

صرت الآن تفهم كيف يوجّه المطوّرون الـ LLMs، ولماذا تكون تلك التعليمات هشّة. لكن ماذا يحدث حين يحتاج النموذج إلى معلومات لم تكن في بيانات تدريبه، كمستندات شركتك مثلاً؟ هنا يأتي دور الـ RAG، الذي يفتح سطحاً جديداً كلياً للهجوم.