مسار تعلُّم مجّاني
تعلَّم أمن الذكاء الاصطناعي والـ prompt injection
دورة مجّانية من 9 وحدات تغطّي أمن الـ LLM من الأساسيات إلى الهجمات المتقدّمة. ابدأ بكيفية عمل الـ LLM، ثم اختبر أنظمة ذكاء اصطناعي حقيقية وتجاوز دفاعاتها المُعدّة مسبقاً في مختبرات تطبيقية مع تعلّم أساليب التخفيف. لا تتطلّب خبرة أمنية سابقة. متوافقة مع OWASP Top 10 for LLM Applications وOWASP Top 10 for Agentic Applications.
أساسيات الذكاء الاصطناعي
افهم كيف تعمل النماذج اللغوية قبل أن تخترقها
كيف تعمل النماذج اللغوية الكبيرة فعلياً
تعرّف إلى كيفية معالجة النماذج اللغوية الكبيرة للتوكِنات ونوافذ السياق وتوليد النص؛ فهذا هو الأساس الذي يقوم عليه فهمك لهجمات حقن الأوامر
موجّهات النظام ونافذة السياق
كيف يوجّه المطوّرون النماذج اللغوية بموجّهات النظام، ولماذا هي هشّة، وكيف يستغلّ حقن الأوامر هذا الضعف الجوهري
RAG: حين تقرأ النماذج اللغوية بيانات خارجية
كيف يعمل التوليد المعزّز بالاسترجاع، وأين تنكسر حدود الثقة، ولماذا يُعدّ تسميم الـ RAG خطراً أمنياً حرجاً على النماذج اللغوية
الأدوات واستدعاء الدوال
كيف تستدعي النماذج اللغوية الأدوات والواجهات البرمجية الخارجية، ولماذا يُعدّ استغلال الأدوات والوكالة المفرطة (Excessive Agency) من أبرز المخاطر الأمنية للنماذج اللغوية
وحدات الأمن
هاجِم أنظمة نماذج لغوية حقيقية وتعلَّم كيف تُخفِّف مخاطرها
النموذج اللغوي المجرّد
حقن الأوامر المباشر ضد النماذج اللغوية غير المحمية: استخرج موجّهات النظام، واختبر تعارض التعليمات، واعرف لماذا تنجح محاولات التجاوز البسيطة أحياناً
النموذج اللغوي + البيانات الخارجية
حقن الأوامر غير المباشر عبر تسميم الـ RAG، وكيف يضمّن المهاجمون تعليمات خبيثة في قواعد المعرفة للتلاعب بمخرجات النماذج اللغوية
النموذج اللغوي + الأدوات
استغلال الأدوات والوكالة المفرطة (Excessive Agency) في أنظمة النماذج اللغوية، فاكتشف الأدوات الخفيّة، وأسِئ استخدام استدعاء الدوال، واحقن عبر المخرجات المولّدة بالذكاء الاصطناعي
النموذج اللغوي + الدفاعات
تجاوز دفاعات أمن النماذج اللغوية، من مرشّحات الكلمات المفتاحية، والتسلسل الهرمي للتعليمات، وموجّهات الفحص الذاتي، وحواجز على مستوى الشيفرة. اعرف ما ينجح وما لا ينجح
الذكاء الاصطناعي الوكيلي
حين تتصرّف أنظمة الذكاء الاصطناعي باستقلالية