AI-Sicherheit in der Praxis: Das LLM als „Black Box“ verstehen und im Rahmen von Red-Team-Tests untersuchen

KI und insbesondere große Sprachmodelle (LLM) sind keine Zauberei. Es handelt sich um zustandslose „Black Boxes“, die Eingaben entgegennehmen und Ausgaben erzeugen, ohne sich an irgendetwas dazwischen zu erinnern.

In dieser praktischen Übung blicken wir hinter die Benutzeroberfläche und zeigen Ihnen die tatsächlichen API-Aufrufe, die Agenten und Chatbots für die Kommunikation mit LLMs verwenden. Am Ende werden Sie Folgendes verstanden haben:

• Systemaufforderungen im Vergleich zu Benutzeraufrufen – und warum die einen mehr Autorität haben als die anderen
• Kontextfenster und wie sie die Illusion erzeugen, dass sich ein LLM an Ihre Unterhaltung „erinnert“
• Wie sich ein Gedächtnis über Sitzungen hinweg – und nicht nur innerhalb einzelner Sitzungen – allmählich herausbildet
• Warum genau diese Mechanismen – vom Überschreiben von Systemaufforderungen bis hin zur Manipulation des Kontexts – den Einstiegspunkt für KI-Red-Teaming bilden

Früher mussten Sicherheitsteams sich mit Paketen, Ports und Protokollen auskennen, um ihre Arbeit gut zu machen. Heute müssen sie sich ebenso gut mit KI auskennen.