AI Security Labs

Testiraj prompt injection napade na simuliranom AI sistemu: direktna i indirektna injekcija, ekstrakcija system prompta i lančani napad sa neautorizovanom transakcijom.

Pentest u CTF stilu: 5 jailbreak tehnika na NovaPay chatbotu (DAN, roleplay, many-shot, hypothetical framing, crescendo). Flagovi su oznake za vežbu i ne boduju se.

Testiraj 4 OWASP LLM ranjivosti na simuliranom bankarskom chatbotu (nazivi iz v1.1, 2023, uz ID iz izdanja 2026): sensitive information disclosure (LLM02:2026), excessive agency (LLM03:2026), insecure output handling (LLM10:2026 Improper Output Handling), overreliance (LLM07:2026 Misinformation).

Kao zaposleni postavljaš obična pitanja RAG asistentu i pratiš kako otrovani dokumenti u bazi dovode do eksfiltracije podataka, kontaminacije sesije i lančanja instrukcija.

Klasifikuj incident log dokaze u stvarne MITRE ATLAS taktike i tehnike, kao SOC analitičar tokom istrage.

Pregledaj ToS klauzule fiktivnog AI vendora, poveži svaku sa zahtevima EU AI Act-a, DORA i GDPR-a i sa funkcijama NIST AI RMF-a i izračunaj ocenu rizika.

Pregledaj primer izlaza 3 stvarna garak probe-a (encoding, DAN, markdown image exfil; unapred zadati rezultati, ne sken uživo) i postavi CI/CD security gate prag.