404 Founders Academy
AI Security Labs
One bit at a byte.
🔍
Lab 01
Prompt Injection
Testiraj prompt injection napade na simuliranom AI sistemu. Direktna injection, system prompt ekstrakcija, zaobilazenje zastita.
Python
~30 min
Modul 1
→
🛡
Lab 02
Jailbreaking & Alignment Bypass
CTF-style pentest: 5 jailbreak tehnika na NovaPay chatbotu. DAN, roleplay, many-shot, hypothetical framing, crescendo.
Python
~60 min
5 flags
→
🧪
Lab 03
OWASP LLM Top 10
Testiraj 4 OWASP LLM ranjivosti na simuliranom bankarskom chatbotu - sensitive info disclosure, excessive agency, insecure output handling, overreliance.
Python
~30 min
Modul 2
→
📚
Lab 04
RAG Injection
Truj retrieved dokumente skrivenim instrukcijama i testiraj direktnu eksfiltraciju, cross-document kontaminaciju i lancano ubacivanje instrukcija.
Python
~30 min
Modul 3
→
🗺
Lab 05
MITRE ATLAS Mapping
Klasifikuj incident log dokaze u stvarne MITRE ATLAS taktike i tehnike, kao SOC analiticar tokom istrage.
Python
~25 min
Modul 4
→
⚖
Lab 06
AI Governance Audit
Pregledaj ToS klauzule fiktivnog AI vendora, oceni svaku po EU AI Act/NIST AI RMF i izracunaj konacan risk score.
Python
~30 min
Modul 5
→
🛰
Lab 07
Garak Vulnerability Scan
Pokreni mini Garak-stil skener sa 3 stvarna probe-a (encoding, DAN, XSS exfil) i postavi CI/CD security gate prag.
Python
~30 min
Modul 6
→