مسار تعلُّم مجّاني
تعلَّم أمن الذكاء الاصطناعي والـ prompt injection
دورة مجّانية من 9 وحدات تغطّي أمن الـ LLM من الأساسيات إلى الهجمات المتقدّمة. ابدأ بكيفية عمل الـ LLM، ثم هاجِم أنظمة ذكاء اصطناعي حقيقية ودافِع عنها في مختبرات تطبيقية. لا تتطلّب خبرة أمنية سابقة. متوافقة مع OWASP Top 10 لتطبيقات الـ LLM وOWASP Top 10 للذكاء الاصطناعي الـ agentic.
أساسيات الذكاء الاصطناعي
افهم كيف تعمل النماذج اللغوية قبل أن تخترقها
كيف تعمل النماذج اللغوية الكبيرة فعلياً
تعرّف إلى كيفية معالجة النماذج اللغوية الكبيرة للتوكِنات ونوافذ السياق وتوليد النص؛ فهذا هو الأساس الذي يقوم عليه فهمك لهجمات حقن الأوامر
موجّهات النظام ونافذة السياق
كيف يوجّه المطوّرون النماذج اللغوية بموجّهات النظام، ولماذا هي هشّة، وكيف يستغلّ حقن الأوامر هذا الضعف الجوهري
RAG: حين تقرأ النماذج اللغوية بيانات خارجية
كيف يعمل التوليد المعزّز بالاسترجاع، وأين تنكسر حدود الثقة، ولماذا يُعدّ تسميم الـ RAG خطراً أمنياً حرجاً على النماذج اللغوية
الأدوات واستدعاء الدوال
كيف تستدعي النماذج اللغوية الأدوات والواجهات البرمجية الخارجية، ولماذا يُعدّ استغلال الأدوات والوكالة المفرطة (Excessive Agency) من أبرز المخاطر الأمنية للنماذج اللغوية
وحدات الأمن
هاجِم أنظمة نماذج لغوية حقيقية ودافِع عنها
النموذج اللغوي المجرّد
حقن الأوامر المباشر ضد النماذج اللغوية غير المحمية: استخرج موجّهات النظام، وتجاوز التعليمات، واعرف لماذا تنجح عبارة 'ignore previous instructions'
النموذج اللغوي + البيانات الخارجية
حقن الأوامر غير المباشر عبر تسميم الـ RAG، وكيف يضمّن المهاجمون تعليمات خبيثة في قواعد المعرفة للتلاعب بمخرجات النماذج اللغوية
النموذج اللغوي + الأدوات
استغلال الأدوات والوكالة المفرطة (Excessive Agency) في أنظمة النماذج اللغوية، فاكتشف الأدوات الخفيّة، وأسِئ استخدام استدعاء الدوال، واحقن عبر المخرجات المولّدة بالذكاء الاصطناعي
النموذج اللغوي + الدفاعات
تجاوز دفاعات أمن النماذج اللغوية، من مرشّحات الكلمات المفتاحية، والتسلسل الهرمي للتعليمات، وموجّهات الفحص الذاتي، وحواجز على مستوى الشيفرة. اعرف ما ينجح وما لا ينجح
الذكاء الاصطناعي الوكيلي
حين تتصرّف أنظمة الذكاء الاصطناعي باستقلالية