Kontakt aufnehmen
 Dauer 21 Stunden

Schulungsübersicht

Grundlagen: Threat-Modelle für agentic AI

  • Typen agentischer Bedrohungen: Missbrauch, Eskalation, Datenlecks und Supply-Chain-Risiken
  • Gegnerprofile und Angreiferfähigkeiten, die spezifisch für autonome Agenten sind
  • Kartierung von Assets, Vertrauensgrenzen und kritischen Kontrollpunkten für Agenten

Governance, Richtlinien und Risikomanagement

  • Governance-Rahmenwerke für agentische Systeme (Rollen, Verantwortlichkeiten, Freigabepunkte)
  • Richtlinienkonzeption: zulässige Nutzung, Eskalationsregeln, Datenbehandlung und Auditierbarkeit
  • Compliance-Erwägungen und Beweissicherung für Audits

Nicht-Menschen-Identität & Authentifizierung für Agenten

  • Gestaltung von Identitäten für Agenten: Service-Accounts, JWTs und kurzlebige Anmeldedaten
  • Least-Privilege-Zugriffsmuster und Just-in-Time-Authentifizierung
  • Identitätslebenszyklus, Rotation, Delegierung und Widerrufsstrategien

Zugriffskontrollen, Secrets und Datensicherung

  • Fine-grained-Zugriffskontrollmodelle und kapazitätsbasierte Muster für Agenten
  • Secrets-Management, Verschlüsselung während der Übertragung und im Ruhezustand sowie Datenminimierung
  • Schutz sensibler Wissensquellen und PII vor unbefugtem Agentenzugriff

Observability, Auditing und Incident Response

  • Gestaltung von Telemetrie für Agentenverhalten: Intention-Tracking, Befehlsprotokolle und Provenienz
  • SIEM-Integration, Alarm-Schwellenwerte und forensische Bereitschaft
  • Runbooks und Playbooks für agentenbezogene Vorfälle und Eindämmung

Red-Teaming agentischer Systeme

  • Planung von Red-Team-Übungen: Umfang, Regeln des Engagements und sicheres Failover
  • Adversäre Techniken: Prompt-Injection, Tool-Missbrauch, Chain-of-Thought-Manipulation und API-Missbrauch
  • Durchführung kontrollierter Angriffe und Messung von Exposition und Auswirkungen

Verstärkung und Abmilderung

  • Engineering-Kontrollen: Antwort-Drosselung, Capability-Gating und Sandboxing
  • Richtlinien- und Orchestrierungskontrollen: Freigabeflüsse, Human-in-the-loop und Governance-Hooks
  • Modell- und Prompt-Ebenen-Abwehr: Eingabevalidierung, Normalisierung und Ausgabe-Filter

Operationalisierung sicherer Agenten-Deployments

  • Deployment-Muster: Staging, Canary und schrittweiser Rollout für Agenten
  • Änderungskontrolle, Test-Pipelines und Sicherheitsprüfungen vor dem Deployment
  • Querschnitts-übergreifende Governance: Security, Legal, Produkt und Ops-Playbooks

Kapitel: Red-Team / Blue-Team Übung

  • Durchführung eines simulierten Red-Team-Angriffs auf eine sandboxisierte Agentenumgebung
  • Verteidigung, Erkennung und Behebung als Blue-Team unter Verwendung von Kontrollen und Telemetrie
  • Präsentation der Erkenntnisse, des Sanierungsplans und der Richtlinienupdates

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Fundierte Kenntnisse in der Security-Engineering, Systemadministration oder Cloud-Betrieb
  • Vertrautheit mit KI/ML-Konzepten und dem Verhalten großer Sprachmodelle (LLMs)
  • Erfahrung mit Identity & Access Management (IAM) und dem sicheren Systemdesign

Zielgruppe

  • Security Engineers und Red-Teamer
  • KI-Betriebs- und Plattform-Ingenieure
  • Compliance-Beauftragte und Risikomanager
  • Engineering-Leads, die für Agenten-Deployments verantwortlich sind

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien