Kontakt aufnehmen

Schulungsübersicht

Übersicht über LLM-Architektur und Angriffsfläche

  • Wie LLMs erstellt, bereitgestellt und über APIs zugänglich gemacht werden
  • Wesentliche Komponenten in LLM-App-Stacks (z. B. Prompts, Agenten, Speicher, APIs)
  • Wo und wie Sicherheitsprobleme in der Praxis entstehen

Prompt-Injection- und Jailbreak-Angriffe

  • Was ist Prompt-Injection und warum ist es gefährlich?
  • Szenarien für direkte und indirekte Prompt-Injection
  • Jailbreak-Techniken zum Umgehen von Sicherheitsfiltern
  • Erkennungs- und Abwehrstrategien

Datenlecks und Datenschutzrisiken

  • Zufällige Datenexposition durch Antworten
  • Lecks von personenbezogenen Daten (PII) und Missbrauch des Modellgedächtnisses
  • Gestaltung datenschutzfreundlicher Prompts und Retrieval-Augmented Generation (RAG)

Filterung und Absicherung von LLM-Ausgaben

  • Nutzung von Guardrails AI zur Inhaltsfilterung und Validierung
  • Definition von Output-Schemata und Einschränkungen
  • Überwachung und Protokollierung unsicherer Ausgaben

Human-in-the-Loop und Workflow-Ansätze

  • Wo und wann menschliche Überwachung eingeführt werden sollte
  • Genehmigungswarteschlangen, Bewertungsschwellenwerte, Fallback-Handhabung
  • Vertrauenskompensation und die Rolle der Erklärbarkeit (Explainability)

Sichere Designmuster für LLM-Anwendungen

  • Prinzip der geringsten Rechte und Sandboxing für API-Aufrufe und Agenten
  • Rate Limiting, Drosselung und Erkennung von Missbrauch
  • Robuste Verkettung mit LangChain und Isolation von Prompts

Compliance, Protokollierung und Governance

  • Sicherstellung der Überprüfbarkeit (Auditability) von LLM-Ausgaben
  • Aufrechterhaltung der Rückverfolgbarkeit und Kontrolle von Prompts und Versionen
  • Ausrichtung auf interne Sicherheitsrichtlinien und regulatorische Anforderungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis von Large Language Models und promptbasierten Schnittstellen
  • Erfahrung beim Aufbau von LLM-Anwendungen mit Python
  • Vertrautheit mit API-Integrationen und cloudbasierten Bereitstellungen

Zielgruppe

  • KI-Entwickler
  • Anwendungs- und Lösungsarchitekten
  • Technische Produktmanager, die mit LLM-Tools arbeiten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien