Hack the AI!

Wie leicht lassen sich KI-Systeme austricksen?

In den Medien werden immer häufiger Sicherheitslücken bekannt. Jüngst in der verbreiteten Web-Sprache PHP.Wir ergründen spielerisch: Wie sicher sind KI-Systeme eigentlich heute? Wie einfach ist es, sie dazu zu bringen, ihre Regeln zu ignorieren und Dinge zu tun, die sie gar nicht tun sollen? Und wie können wir KI so gestalten, dass das nicht passiert.

Finde es selbst heraus!

Female AImpowerment, das AI Village laden dich zu einem interaktiven AI Security Hackathon ein.

Für einen Vormittag schlüpfst du in die Rolle einer Hackerin. Deine Mission: Versuche, ein KI-System auszutricksen, seine Sicherheitsmechanismen zu umgehen und es zu unerwünschtem Verhalten zu bewegen.

Dafür stellen wir eine sichere Trainingsumgebung mit vielen kleinen Challenges bereit. Jede Challenge dauert etwa 5–20 Minuten. Du entscheidest selbst, welche Aufgaben du angehst und wie weit du kommst.

Das Beste: Du brauchst keinerlei Programmierkenntnisse! Du greifst das System über Prompts an. Also ganz normale Sprache. Neugier, Kreativität und ein bisschen Hartnäckigkeit reichen aus.

Dabei lernst du ganz praktisch, wo die Schwachstellen von KI-Systemen liegen, wie sogenannte Prompt Injections funktionieren und warum AI Security immer wichtiger wird.

Wann: Samstag, 14. November 2026, 10:00–14:00 Uhr, Check-In ab 09:45 Uhr

Wo: AI Village, Studio 6 auf dem Euronova Campus, An der Hasenkaule 10, 50354 Hürth

Für wen: Frauen und FLINTA-Personen, unabhängig von technischen Vorkenntnissen

Sprache: Einführung und Austausch auf Deutsch, Trainingssystem und Challenges auf Englisch. Grundkenntnisse in beiden Sprachen reichen aus.

Bring your notebook.

Speakerinnen: Dr. Alexa Scheffler, Brigite Reposhi

Come curious. Think like a hacker. Learn how AI really works.Agenda:09:45 Uhr: Check-In10:00 Uhr: Einführung in den Use Case https://owasp-finbot-ctf.org/, Dr. Alexa Scheffler10:30 Uhr: Open Hacking, inkl. Coffee Break12:30 Uhr: What are the security threats in AI systems (in English!), Brigite Reposhi13:00 Uhr: Sicherer Einsatz von KI, Dr. Alexa Scheffler13:30 Uhr: Erfahrungsaustausch in der Rundeab 14:00 Uhr: Get-Together mit Snacks