أبحاث وأدلّة
أبحاث وأدلّة وتحليلات معمّقة في أمن الذكاء الاصطناعي والـ prompt injection والـ red teaming للـ LLM.
مقارنة بين Lakera Gandalf وHackAPrompt وPortSwigger و8 غيرها من ألعاب ومختبرات الـ prompt injection من حيث الصيغة والسعر ونماذج LLM الحقيقية وعدد المستويات وأفضل استخدام لكلٍّ منها.
الـ prompt injection هو الثغرة رقم 1 في تطبيقات الـ LLM. تعرّف على معناه وكيف يعمل، والفرق بين النوع المباشر وغير المباشر، وأمثلة واقعية، وكيف تتدرّب على اكتشافه والدفاع ضده مجاناً.
دليل عملي لـ 10 تقنيات لـ prompt injection: تجاهل التعليمات السابقة، وهجمات تقمّص الأدوار، وحيل الترميز، والتجاوز عبر لغات متعددة، وتسميم الـ RAG، وغيرها، مع أمثلة payloads.
كثيراً ما يُخلط بين الـ prompt injection والـ jailbreak. تعرّف على الفروق الأساسية في الهدف والجهة المستهدفة والتقنيات والخطورة، ولماذا يعاملهما OWASP بشكل مختلف.
ورقة مرجعية سريعة تغطّي فئات هجمات الـ prompt injection، وأمثلة payloads، واستراتيجيات الدفاع. احفظ هذه الصفحة لمهمتك القادمة في الـ AI Red Team.
دليل خطوة بخطوة لتعلّم أمن الذكاء الاصطناعي و red teaming للـ LLM. يغطّي المهارات الأساسية والمصادر المجانية والمختبرات العملية والمسارات المهنية في أمن الذكاء الاصطناعي.
شرح للـ AI Red Teaming: ما هو، ولماذا تحتاجه المؤسسات، والمنهجيات الشائعة، وكيف تبدأ التدرّب على نماذج LLM حقيقية في بيئة آمنة.