Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 21 Stunden
Schulungsübersicht
Grundlagen: Threat-Modelle für agentic AI
- Typen agentischer Bedrohungen: Missbrauch, Eskalation, Datenlecks und Supply-Chain-Risiken
- Gegnerprofile und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
- Kartierung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten
Governance, Richtlinien und Risikomanagement
- Governance-Rahmenwerke für agentische Systeme (Rollen, Verantwortlichkeiten, Freigabepunkte)
- Richtlinienkonzeption: zulässige Nutzung, Eskalationsregeln, Datenbehandlung und Auditierbarkeit
- Compliance-Erwägungen und Beweissicherung für Audits
Nicht-Menschen-Identität & Authentifizierung für Agenten
- Gestaltung von Identitäten für Agenten: Service-Accounts, JWTs und kurzlebige Anmeldedaten
- Least-Privilege-Zugriffsmuster und Just-in-Time-Authentifizierung
- Identitätslebenszyklus, Rotation, Delegierung und Widerrufsstrategien
Zugriffskontrollen, Secrets und Datensicherung
- Fine-grained-Zugriffskontrollmodelle und kapazitätsbasierte Muster für Agenten
- Secrets-Management, Verschlüsselung während der Übertragung und im Ruhezustand sowie Datenminimierung
- Schutz sensibler Wissensquellen und PII vor unbefugtem Agentenzugriff
Observability, Auditing und Incident Response
- Gestaltung von Telemetrie für Agentenverhalten: Intention-Tracking, Befehlsprotokolle und Provenienz
- SIEM-Integration, Alarm-Schwellenwerte und forensische Bereitschaft
- Runbooks und Playbooks für agentenbezogene Vorfälle und Eindämmung
Red-Teaming agentischer Systeme
- Planung von Red-Team-Übungen: Umfang, Regeln des Engagements und sicheres Failover
- Adversäre Techniken: Prompt-Injection, Tool-Missbrauch, Chain-of-Thought-Manipulation und API-Missbrauch
- Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen
Verstärkung und Abmilderung
- Engineering-Kontrollen: Antwort-Drosselung, Capability-Gating und Sandboxing
- Richtlinien- und Orchestrierungskontrollen: Freigabeflüsse, Human-in-the-loop und Governance-Hooks
- Modell- und Prompt-Ebenen-Abwehr: Eingabevalidierung, Normalisierung und Ausgabe-Filter
Operationalisierung sicherer Agenten-Deployments
- Deployment-Muster: Staging, Canary und schrittweiser Rollout für Agenten
- Änderungskontrolle, Test-Pipelines und Sicherheitsprüfungen vor dem Deployment
- Querschnitts-übergreifende Governance: Security, Legal, Produkt und Ops-Playbooks
Kapitel: Red-Team / Blue-Team Übung
- Durchführung eines simulierten Red-Team-Angriffs auf eine sandboxisierte Agentenumgebung
- Verteidigung, Erkennung und Behebung als Blue-Team unter Verwendung von Kontrollen und Telemetrie
- Präsentation der Erkenntnisse, des Sanierungsplans und der Richtlinienupdates
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundierte Kenntnisse in der Security-Engineering, Systemadministration oder Cloud-Betrieb
- Vertrautheit mit KI/ML-Konzepten und dem Verhalten großer Sprachmodelle (LLMs)
- Erfahrung mit Identity & Access Management (IAM) und dem sicheren Systemdesign
Zielgruppe
- Security Engineers und Red-Teamer
- KI-Betriebs- und Plattform-Ingenieure
- Compliance-Beauftragte und Risikomanager
- Engineering-Leads, die für Agenten-Deployments verantwortlich sind
Erfahrungsberichte (1)
Erfassung und Identifizierung der verschiedenen Risikobereiche im Zusammenhang mit KI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Maschinelle Übersetzung