Kontakt aufnehmen

Schulungsübersicht

Übersicht über die Architektur von LLM-Systemen und potenzielle Angriffsvektoren

  • Aufbau, Deployment und Zugriff auf große Sprachmodelle via APIs
  • Wesentliche Komponenten in der Architektur von LLM-Anwendungen (Prompts, Agenten, Speicher, APIs)
  • Typische Quellen für Sicherheitsprobleme im praktischen Einsatz

Prompt Injection und Jailbreak-Angriffe

  • Was ist Prompt Injection – und warum stellt es eine Gefahr dar?
  • Direkte sowie indirekte Formen des Prompt Injections<\/li>
  • Methoden zum Umgehen von Sicherheitsfiltern mittels Jailbreaking
  • Möglichkeiten zur Erkennung und Verhinderung solcher Angriffe

Datenlecks und Risiken hinsichtlich Datenschutz

  • Unbeabsichtigte Offenlegung von Daten in Modellausgaben
  • Verlust persönlicher Identifizierbarer Informationen sowie missbräuchliche Nutzung des internen Speichers der Modelle
  • Gestaltung datenschutzkonformer Prompts sowie Einsatz von Retrieval-Augmented Generation (RAG)

Filterung und Kontrolle der Ausgaben großer Sprachmodelle

  • Einsatz von Guardrails AI zur Inhaltsprüfung und Validierung
  • Festlegung von Strukturen sowie Einschränkungen für die Ausgaben<\/li>
  • Überwachung sowie Protokollierung unsicherer Modellantworten

Menschliche Beteiligung und methodische Vorgehensweisen

  • Einsatzmöglichkeiten für menschliche Kontrolle – wann und wo erforderlich?
  • Zustimmungsprozesse, Schwellenwerte zur Bewertung sowie Mechanismen bei Fehlfunktionen
  • Einschätzung des Vertrauensniveaus in das Modell und die Rolle der Erklärbarkeit

Konzepte zur sicheren Entwicklung von LLM-Anwendungen

  • Anwendung des „Least-Privilege-Prinzips“ sowie Sandboxing für API-Aufrufe und Agenten
  • Grenzregulierung, Drosselung sowie Erkennung missbräuchlicher Nutzung
  • Robuste Verknüpfungen mittels LangChain sowie Trennung von Prompts in isolierten Bereichen

Compliance, Logging und Governance

  • Gewährleistung der Nachvollziehbarkeit aller Modellausgaben
  • Dokumentation von Prozessen sowie Kontrolle von Versionen der verwendeten Prompts<\/li>
  • Abstimmung auf interne Sicherheitsrichtlinien sowie rechtliche Anforderungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundkenntnisse über große Sprachmodelle sowie promptbasierte Schnittstellen
  • Erfahrung bei der Entwicklung von LLM-Anwendungen mit Python
  • Kenntnisse im Bereich API-Integration und Cloud-Deployments

Zielgruppe

  • KI-Entwickler
  • Anwendungs- und Lösungsarchitekten
  • Technische Produktmanager, die mit LLM-Tools arbeiten
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien