مختبرات مجّانية لأمن الذكاء الاصطناعي

مختبرات الـ prompt injection

10 مختبراً مجّانياً للتدرُّب على الـ prompt injection، وتسميم الـ RAG، واستغلال الأدوات، وتجاوز الدفاعات مع نماذج LLM حقيقية.

كل مختبر تمرين تطبيقي على الـ prompt injection مرتبط بمفهوم من الوحدات التعليمية. تتفاعل مع نموذج LLM حقيقي وتحاول دفعه إلى ما لا ينبغي له: استخراج سرّ، أو تلفيق معلومة، أو إطلاق إجراء غير مصرَّح به.

تُظهر لوحة Context Trace ما يتلقّاه النموذج بالضبط: الـ system prompt، ومستندات الـ RAG، وتعريفات الأدوات، ومُدخَلاتك، لترى كيف تعمل هجمات الـ prompt injection من الداخل. وتُرتَّب المختبرات حسب الوحدة وتتدرّج من المبتدئ إلى المتقدّم، بما يتوافق مع OWASP Top 10 for LLM Applications وOWASP Top 10 for Agentic AI.

جميع المختبرات مجّانية تماماً. سجِّل الدخول عبر GitHub أو Google لتتبُّع تقدُّمك. جاهز لتحدٍّ أكبر؟ جرِّب التحدّي: دفاعات ذكاء اصطناعي أصعب تدريجياً، من القواعد البسيطة إلى classifiers الـ LLM.

The Bare LLM

Direct prompt injection on unguarded models

1.1

Hello, Injection

Your first prompt injection. A chatbot is guarding a secret word - can you make it spill?

1.2

The Obedient Assistant

This banking chatbot won't confirm fake transfers. Make it say a transfer is complete.

LLM + External Data

RAG poisoning and indirect prompt injection

2.1

Poisoned Knowledge

gh0st has poisoned one document in this chatbot's 10-doc knowledge base with a hidden injection. Find it in the Context Trace, then trigger the data exfiltration.

LLM + Tools

Tool abuse and indirect prompt injection

3.1

The Helpful Tool

AI assistants have tools they can call — some are visible, some aren't. What happens when you ask the right questions?

3.2

Output Injection

This assistant produces markdown with clickable links. What happens when AI output is rendered as code?

LLM + Defenses

Bypassing system-level protections

4.1

Break the Defenses

This chatbot has multi-layered prompt defenses. Can you still extract the secret word?

4.2

The Vault

This chatbot has real defenses, not just prompt rules. A code-level output guard, a canary token, and a second LLM classifier all review every response before it reaches you.

LLM Agents & Agentic Security

MCP, A2A, and why agents amplify every vulnerability

5.1

Nexus

An AI agent that turns live company data into charts. Its rendering looks locked down.

$100 bounty paid

5.2

Prism

An AI agent that generates architecture diagrams from system descriptions. Its output is sanitized before it renders.

$5,000 bounty paid

5.3

Vector

An AI agent that creates SVG graphics from design specs. A sanitizer scrubs the output before it renders.

$3,000 bounty paid