عن المنصّة
عن PromptTrace
منصّة مجّانية وتطبيقية للتدريب على أمن الذكاء الاصطناعي، لتعلُّم الـ prompt injection وتسميم الـ RAG والـ red teaming للـ LLM. لا اشتراكات مدفوعة ولا تراخيص للمؤسسات: مجّانية 100% للأفراد والفِرق.
ما PromptTrace؟
PromptTrace منصّة تدريب تطبيقية على أمن الذكاء الاصطناعي وأمن الـ LLM. تتيح لك التدرُّب على الـ prompt injection وتسميم الـ RAG واستغلال الأدوات ضد نماذج LLM حقيقية لا محاكاة، مع فحص طبقات الـ prompt المجمَّعة التي يتيحها Context Trace وحجب القيم الحسّاسة.
الفكرة الجوهرية هي Context Trace: عرض لحظي لطبقات الـ prompt المجمَّعة والمتاحة للاعب، بما فيها الـ system prompt والمستندات المسترجَعة وتعريفات الأدوات ومُدخَلاتك، مع حجب أسرار التحدّي أو القيم الحسّاسة. ويساعدك فحص هذه الطبقات على بناء حدس لكيفية عمل الهجمات وسبب فشل الدفاعات.
من بنى هذا
PromptTrace من بناء عبدالرحمن عادل، باحث في أمن الذكاء الاصطناعي ومؤسّس AIRED Lab (AI Research, Education & Defense).
يجلب عبدالرحمن أكثر من 9 سنوات من خبرة الأمن الهجومي إلى الـ AI red teaming. فهو قائد تقني في الأمن السيبراني ومن أفضل 100 صيّاد ثغرات على Bugcrowd، ويحمل شهادات OSCP وCREST CRT وWAPTX.
انتقاله إلى أمن الذكاء الاصطناعي تطوّر طبيعي؛ فالعقلية الهجومية نفسها التي تكتشف ثغرات الحقن في تطبيقات الويب تستهدف الآن الـ prompt injection وتسميم الـ RAG واستغلال الأدوات في أنظمة الـ LLM. وقد بُني PromptTrace ليجعل هذا السطح الهجومي الجديد في متناول مجتمع الأمن.
يستند المنهج إلى OWASP Top 10 for LLM Applications وOWASP Top 10 for Agentic Applications وإطار MITRE ATLAS للتعلُّم الآلي الخصومي، وإلى أبحاث واقعية في الـ prompt injection. ويستند كل سيناريو في المختبرات إلى أنماط هجوم موثّقة رُصدت في أنظمة ذكاء اصطناعي إنتاجية.
لماذا وُجدت هذه المنصّة
معظم التعليم في أمن الذكاء الاصطناعي نظري. فالأبحاث تصف الهجمات، والمقالات تشرح الدفاعات، لكن نادراً ما تفحص كيفية تجميع التطبيق لطبقات الـ prompt أثناء الهجوم.
بُني PromptTrace لسدّ هذه الفجوة. وتعرض المختبرات الطبقات المجمَّعة والمتاحة للاعب: كيف تُضاف الـ system prompts، وكيف تدخل مستندات الـ RAG إلى السياق، وكيف تُمثَّل استدعاءات الأدوات، وأين تقع حدود الثقة. وقد تُحجب أسرار التحدّي والقيم الحسّاسة.
كيف تعمل المنصّة
- 1.9 وحدات تعليمية تشرح المفاهيم الأساسية: كيف تعالج نماذج الـ LLM السياق، وما وظيفة الـ system prompts، وكيف تعمل خطوط الـ RAG، وكيف يخلق الـ tool calling أسطحاً هجومية.
- 2.10 مختبراً تفاعلياً للـ prompt injection تضعك أمام نموذج LLM حقيقي بهدف أمني محدّد. تغطّي المختبرات الـ prompt injection المباشر، وتسميم الـ RAG، واستغلال الأدوات، وتجاوز الدفاعات.
- 3.التحدّي: مسابقة CTF للـ prompt injection بدفاعات تزداد قوّة تدريجياً: الـ guardrails على مستوى الـ prompt، والـ guardrails على مستوى الكود، وclassifiers الـ LLM. سجِّل أفضل وقت لك على لوحة متصدّري المجتمع.
نظرة سريعة على المنصّة
10
مزوّدو نماذج الـ LLM
مجّاني
السعر
لا شيء
المتطلّبات المسبقة
اقرأ المزيد
الأمن والإفصاح المسؤول
إن اكتشفت ثغرة في منصّة PromptTrace نفسها (لا في تحدّيات المختبرات المقصودة)، فأبلِغ عنها عبر أو عبر جهة الاتصال في security.txt. نتعامل مع كل البلاغات بجدّية وسنؤكّد الاستلام خلال 48 ساعة.
التواصل
لأي أسئلة أو ملاحظات أو بلاغات عن الثغرات، تواصل عبر في الزاوية السفلية اليمنى، أو زُر لوحة الصدارة لتتعرّف على المجتمع.
أتريد المساهمة في بناء PromptTrace؟ ألّف تحدياً واحصل على اعتماد باسمك.