Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen: Bedrohungsmodelle für agentenbasierte KI
- Arten von Risiken im Agentenkontext: Missbrauch, Eskalation, Datenabfluss sowie Gefahren in der Lieferkette
- Profilierung potenzieller Angreifer und deren Fähigkeiten gegenüber autonomen Agenten
- Identifikation relevanter Assets, Vertrauensgrenzen sowie kritischer Kontrollpunkte für Agenten
Governance, Richtlinien und Risikomanagement
- Rahmenbedingungen zur Governance agentenbasierter Systeme – insbesondere Rollenverteilung, Verantwortlichkeiten sowie Freigabeprozesse
- Entwicklung von Richtlinien: erlaubte Nutzungsformen, Eskalationsregeln, Umgang mit Daten sowie Anforderungen an die Nachvollziehbarkeit
- Compliance-Aspekte sowie Dokumentation als Beleg für Audits
Identitätsmanagement und Authentifizierung für Agenten
- Gestaltung von Identitäten: Servicekonten, JWTs sowie kurzlebige Zugangsdaten für Agenten
- Vorgehensweisen zur Gewährleistung minimaler Rechte und just-in-time-Zugriffsberechtigungen
- Strategien zum Lebenszyklus-Management von Identitäten, deren Rotation, Delegation sowie Widerruf
Zugriffskontrolle, Geheimnisschutz und Datensicherheit
- Differenzierte Modelle zur Zugriffssteuerung sowie fähigkeitsbasierte Ansätze für Agenten
- Verwaltung sensibler Informationen, Verschlüsselung während der Übertragung und bei Speicherung sowie Minimierung des Datenumfangs
- Schutz vertraulicher Informationsquellen und personenbezogener Daten vor unbefugtem Zugriff durch Agenten
Überwachung, Auditierung und Reaktion auf Vorfälle
- Aufbau von Telemetrie-Systemen zur Beobachtung des Agentenverhaltens: Nachverfolgung der Absichten, Kommandologgeinträge sowie Ursprungserkennung
- Integration in SIEM-Systeme, Festlegung von Alarmschwellen sowie Vorbereitung auf forensische Analysen
- Entwicklung von Handlungsplänen für den Umgang mit Zwischenfällen im Zusammenhang mit Agenten und deren Eindämmung
Red-Teaming für agentenbasierte Systeme
- Planung von Red-Team-Übungen: Abgrenzung des Umfangs, Festlegung der Regeln sowie Einrichtung sicherer Ausweichmechanismen
- Einsatz adversarialer Methoden: Prompt-Injection, Missbrauch von Werkzeugen, Manipulation logischer Abläufe sowie missbräuchliche Nutzung von APIs
- Durchführung kontrollierter Angriffe und Bewertung der entstehenden Risiken sowie möglicher Folgen
Absicherungsmaßnahmen und Gegenstrategien
- Technische Schutzmechanismen: Begrenzung von Antwortfrequenzen, Einschränkung der Funktionsmöglichkeiten sowie Isolierung von Agenten in Sandbox-Umgebungen
- Regulatorische und organisatorische Kontrollmaßnahmen: Genehmigungsprozesse, Einbeziehung menschlicher Entscheidungsträger sowie automatisierte Governance-Prüfungen
- Schutz auf Modell- bzw. Prompt-Ebene: Validierung von Eingaben, Standardisierung und Filterung von Ausgabedaten
Praktische Umsetzung sicherer Agentenbereitstellungen
- Verfahren zur Bereitstellung: Testumgebungen, Canary-Implementierungen sowie schrittweises Rollout von Agenten
- Änderungskontrolle, Testszenarien sowie Sicherheitsprüfungen vor dem Einsatz der Systeme
- Zusammenarbeit aller Fachbereiche: Entwicklung einheitlicher Handlungsrichtlinien für Sicherheit, Recht, Produktentwicklung und Betrieb
Abschlussprojekt: Red-Team/Blue-Team-Übung
- Durchführung eines simulierten Angriffs durch das Red-Team in einer abgeschirmten Agentenumgebung
- Verteidigung, Detektion sowie Behebung der Probleme als Blue-Team unter Einsatz von Sicherheitsmaßnahmen und Überwachungsdaten
- Präsentation der gewonnenen Erkenntnisse, des Maßnahmenplans sowie notwendiger Richtlinienanpassungen
Zusammenfassung und weitere Schritte
Voraussetzungen
- Solides Wissen im Bereich Sicherheitsengineering, Systemadministration oder Cloud-Operationen
- Grundkenntnisse zu KI/ML-Konzepten sowie zum Verhalten großer Sprachmodelle (LLMs)
- Erfahrung im Identitäts- und Zugriffsmanagement (IAM) sowie in der Entwicklung sicherheitsgerechter Systeme
Zielgruppe
- Sicherheitstechniker und Red-Team-Mitglieder
- AI-Operations- sowie Plattformingenieure
- Compliance-Verantwortliche und Risikomanager
- Engineering-Leiter, die für den Einsatz von Agenten verantwortlich sind
21 Stunden