تدريب عملي على أمن الذكاء الاصطناعي

تعلَّم الـ prompt injection عبر مختبرات تطبيقية.

أتقِن أمن الـ LLM عبر الـ prompt injection، والـ AI red teaming، وتسميم الـ RAG، واستغلال الأدوات مع نماذج LLM حقيقية. لا يتطلّب خبرة سابقة.

مجّاني 100% · سجِّل الدخول عبر GitHub أو Google
4.2 The Vault
4.2

يستخدمه خبراء من

1,941 متعلّم72 دولة9,147 تحديات محلولة

ماذا يقول اللاعبون

I loved the difficulty level. PromptTrace is sooo realistic.
DAdji avata@dji-avata
A robust Gandalf / Lakera competitor, a very promising project.
BCBianca Clarissa@bianca-clarissa
I like having to be creative, thinking through the labs to find different ways of getting the LLM to give me something it isn't supposed to.
DIDavid Izzo@david-izzo
Not too easy. The difficulty of the labs is really on the spot.
RRavindu@ravindu-cyber

كيف يعمل PromptTrace؟

01

شاهِد

افحص طبقات الـ prompt المجمَّعة عبر Context Trace: تعليمات النظام، وسياق الـ RAG، وتعريفات الأدوات، ومُدخَلات المستخدم، مع حجب أسرار التحدّي والقيم الحسّاسة.

02

هاجِم

نفِّذ هجمات prompt injection حقيقية في مختبرات معزولة. تدرَّب على تسميم الـ RAG، وإساءة استخدام الأدوات، وتجاوز الدفاعات ضد نماذج LLM حقيقية.

03

افهَم

افهم لماذا تفشل الدفاعات على مستوى الـ prompt وما الذي ينجح فعلاً. يربط المسار التعليمي كل مختبر بالثغرة وأساليب تخفيفها. متوافق مع OWASP Top 10 for LLM Applications وOWASP Top 10 for Agentic Applications.

10

مختبرات تطبيقية

17

مراحل CTF

9

وحدات تعليمية

70+

مصادر مختارة

التحدّي

أنظمة ذكاء اصطناعي محصّنة بتدرّج. استخرِج السرّ من كلٍّ منها.

جرِّب التحدّي

أحدث المقالات من المدوّنة

تقنيات كسر حماية الذكاء الاصطناعي: DAN وتقمّص الأدوار والترميز والهجمات متعددة الأدوار

دليل عملي لتقنيات كسر حماية نماذج الذكاء الاصطناعي: أوامر تقمّص الأدوار وDAN، وانتحال الصلاحية، والترميز، والهجمات متعددة الأدوار، واستغلال الاستدلال. تعرّف على كيفية عمل كلٍّ منها ولماذا تتجاوز حواجز الأمان وكيف تدافع.

هجمات المحارف المتشابهة: كيف تخدع الحروف الشبيهة فلاتر الذكاء الاصطناعي

كيف تستخدم هجمات المحارف المتشابهة حروف Unicode الشبيهة لتمرير الكلمات المحظورة عبر فلاتر الكلمات المفتاحية، ولماذا يظل النموذج يفهمها، وكيف تكتشفها وتدافع ضدها.

المحارف عديمة العرض وإخفاء النص في Unicode: كيف يُخفى النص عن الذكاء الاصطناعي

يمكن للمحارف عديمة العرض وغير المرئية في Unicode أن تُخفي تعليمات عن البشر بينما تظل نماذج LLM تقرأها. تعرّف على كيفية عمل إخفاء النص في Unicode، وكيف يستخدمه المهاجمون ضد نماذج LLM، وكيف تكتشفه.

ما الذي تحتاج إلى معرفته؟

ما هو الـ prompt injection؟

الـ prompt injection هجوم تتلاعب فيه مُدخَلات غير موثوقة بالـ LLM ليتّبع تعليمات غير مقصودة. وقد يؤدي ذلك إلى كشف أسرار، أو تلفيق معلومات، أو إطلاق إجراءات غير مصرَّح بها إذا منح التطبيق المحيط تلك الصلاحيات. ويصنّفه OWASP باسم LLM01:2025 ضمن Top 10 for LLM Applications.

هل PromptTrace مجّاني؟

نعم، مجّاني تماماً. جميع الوحدات التعليمية متاحة للقراءة مجّاناً دون حساب. أمّا المختبرات والتحدّي فيتطلّبان تسجيل دخول مجّاني (عبر GitHub أو Google) لتتبُّع تقدُّمك. لا توجد اشتراكات مدفوعة ولا تراخيص للمؤسسات.

ما هو Context Trace؟

Context Trace هو الميزة الأساسية في PromptTrace. يعرض في الوقت الفعلي طبقات الـ prompt التي يجمعها التطبيق، مثل الـ system prompt ومستندات الـ RAG وتعريفات الأدوات ومُدخَلك، مع حجب أسرار التحدّي أو القيم الحسّاسة. ويساعدك فحص هذه الطبقات على فهم كيفية عمل هجمات الـ prompt injection وسبب فشل الدفاعات.

ما الفرق بين الـ prompt injection المباشر وغير المباشر؟

الـ prompt injection المباشر هو أن يكتب المهاجمون تعليمات خبيثة في مُدخَل المحادثة. أمّا الـ prompt injection غير المباشر فيُخفي التعليمات الخبيثة داخل بيانات خارجية (مستندات، أو صفحات ويب، أو رسائل بريد إلكتروني) يعالجها الـ LLM عبر الـ RAG أو الـ tool calling. والحقن غير المباشر أصعب في الكشف والدفاع ضدّه.

هل أحتاج إلى خلفية في الأمن السيبراني؟

لا. يبدأ PromptTrace من الأساسيات: كيف تعمل الـ LLM، وما الـ context window، وكيف تعمل الـ system prompts. ولا تفترض الوحدات التعليمية الـ 9 أي معرفة أمنية مسبقة. الخبرة الأمنية تفيد لكنّها ليست شرطاً.

ما هو تسميم الـ RAG؟

تسميم الـ RAG هجوم يحقن فيه الخصوم محتوى خبيثاً داخل قاعدة المعرفة التي يستخدمها نظام الـ RAG. وعندما يسترجع مسار الـ RAG هذا المحتوى المسموم، يمكن للتعليمات المضمَّنة فيه أن تتجاوز الـ system prompt الخاص بالـ LLM، وهو شكل من أشكال الـ prompt injection غير المباشر.

كيف يعمل «التحدّي»؟

«التحدّي» مسابقةُ capture-the-flag متعدّدة المراحل. تحوي كل مرحلة نظام دفاع بذكاء اصطناعي أصعب تدريجياً يحمي سرّاً. وتتدرّج الدفاعات من قواعد على مستوى الـ prompt، إلى الـ guardrails على مستوى الكود، إلى الـ classifiers قائمة على الـ LLM. وتُسجَّل محاولاتك وأوقات إتمامك في لوحة الصدارة.

مستعدّ لاختراق أول نموذج ذكاء اصطناعي؟

ابدأ بمختبر للمبتدئين وتدرّج حتى تصل إلى التحدّي.

مجّاني 100% · سجِّل الدخول عبر GitHub أو Google