Kontakt aufnehmen

Schulungsübersicht

Grundlagen: Bedrohungsmodelle für agentenbasierte KI

  • Arten von Risiken im Agentenkontext: Missbrauch, Eskalation, Datenabfluss sowie Gefahren in der Lieferkette
  • Profilierung potenzieller Angreifer und deren Fähigkeiten gegenüber autonomen Agenten
  • Identifikation relevanter Assets, Vertrauensgrenzen sowie kritischer Kontrollpunkte für Agenten

Governance, Richtlinien und Risikomanagement

  • Rahmenbedingungen zur Governance agentenbasierter Systeme – insbesondere Rollenverteilung, Verantwortlichkeiten sowie Freigabeprozesse
  • Entwicklung von Richtlinien: erlaubte Nutzungsformen, Eskalationsregeln, Umgang mit Daten sowie Anforderungen an die Nachvollziehbarkeit
  • Compliance-Aspekte sowie Dokumentation als Beleg für Audits

Identitätsmanagement und Authentifizierung für Agenten

  • Gestaltung von Identitäten: Servicekonten, JWTs sowie kurzlebige Zugangsdaten für Agenten
  • Vorgehensweisen zur Gewährleistung minimaler Rechte und just-in-time-Zugriffsberechtigungen
  • Strategien zum Lebenszyklus-Management von Identitäten, deren Rotation, Delegation sowie Widerruf

Zugriffskontrolle, Geheimnisschutz und Datensicherheit

  • Differenzierte Modelle zur Zugriffssteuerung sowie fähigkeitsbasierte Ansätze für Agenten
  • Verwaltung sensibler Informationen, Verschlüsselung während der Übertragung und bei Speicherung sowie Minimierung des Datenumfangs
  • Schutz vertraulicher Informationsquellen und personenbezogener Daten vor unbefugtem Zugriff durch Agenten

Überwachung, Auditierung und Reaktion auf Vorfälle

  • Aufbau von Telemetrie-Systemen zur Beobachtung des Agentenverhaltens: Nachverfolgung der Absichten, Kommandologgeinträge sowie Ursprungserkennung
  • Integration in SIEM-Systeme, Festlegung von Alarmschwellen sowie Vorbereitung auf forensische Analysen
  • Entwicklung von Handlungsplänen für den Umgang mit Zwischenfällen im Zusammenhang mit Agenten und deren Eindämmung

Red-Teaming für agentenbasierte Systeme

  • Planung von Red-Team-Übungen: Abgrenzung des Umfangs, Festlegung der Regeln sowie Einrichtung sicherer Ausweichmechanismen
  • Einsatz adversarialer Methoden: Prompt-Injection, Missbrauch von Werkzeugen, Manipulation logischer Abläufe sowie missbräuchliche Nutzung von APIs
  • Durchführung kontrollierter Angriffe und Bewertung der entstehenden Risiken sowie möglicher Folgen

Absicherungsmaßnahmen und Gegenstrategien

  • Technische Schutzmechanismen: Begrenzung von Antwortfrequenzen, Einschränkung der Funktionsmöglichkeiten sowie Isolierung von Agenten in Sandbox-Umgebungen
  • Regulatorische und organisatorische Kontrollmaßnahmen: Genehmigungsprozesse, Einbeziehung menschlicher Entscheidungsträger sowie automatisierte Governance-Prüfungen
  • Schutz auf Modell- bzw. Prompt-Ebene: Validierung von Eingaben, Standardisierung und Filterung von Ausgabedaten

Praktische Umsetzung sicherer Agentenbereitstellungen

  • Verfahren zur Bereitstellung: Testumgebungen, Canary-Implementierungen sowie schrittweises Rollout von Agenten
  • Änderungskontrolle, Testszenarien sowie Sicherheitsprüfungen vor dem Einsatz der Systeme
  • Zusammenarbeit aller Fachbereiche: Entwicklung einheitlicher Handlungsrichtlinien für Sicherheit, Recht, Produktentwicklung und Betrieb

Abschlussprojekt: Red-Team/Blue-Team-Übung

  • Durchführung eines simulierten Angriffs durch das Red-Team in einer abgeschirmten Agentenumgebung
  • Verteidigung, Detektion sowie Behebung der Probleme als Blue-Team unter Einsatz von Sicherheitsmaßnahmen und Überwachungsdaten
  • Präsentation der gewonnenen Erkenntnisse, des Maßnahmenplans sowie notwendiger Richtlinienanpassungen

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Solides Wissen im Bereich Sicherheitsengineering, Systemadministration oder Cloud-Operationen
  • Grundkenntnisse zu KI/ML-Konzepten sowie zum Verhalten großer Sprachmodelle (LLMs)
  • Erfahrung im Identitäts- und Zugriffsmanagement (IAM) sowie in der Entwicklung sicherheitsgerechter Systeme

Zielgruppe

  • Sicherheitstechniker und Red-Team-Mitglieder
  • AI-Operations- sowie Plattformingenieure
  • Compliance-Verantwortliche und Risikomanager
  • Engineering-Leiter, die für den Einsatz von Agenten verantwortlich sind
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien