Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 14 Stunden
Schulungsübersicht
Übersicht über die Architektur von LLM-Systemen und potenzielle Angriffsvektoren
- Aufbau, Deployment und Zugriff auf große Sprachmodelle via APIs
- Wesentliche Komponenten in der Architektur von LLM-Anwendungen (Prompts, Agenten, Speicher, APIs)
- Typische Quellen für Sicherheitsprobleme im praktischen Einsatz
Prompt Injection und Jailbreak-Angriffe
- Was ist Prompt Injection – und warum stellt es eine Gefahr dar?
- Direkte sowie indirekte Formen des Prompt Injections<\/li>
- Methoden zum Umgehen von Sicherheitsfiltern mittels Jailbreaking
- Möglichkeiten zur Erkennung und Verhinderung solcher Angriffe
Datenlecks und Risiken hinsichtlich Datenschutz
- Unbeabsichtigte Offenlegung von Daten in Modellausgaben
- Verlust persönlicher Identifizierbarer Informationen sowie missbräuchliche Nutzung des internen Speichers der Modelle
- Gestaltung datenschutzkonformer Prompts sowie Einsatz von Retrieval-Augmented Generation (RAG)
Filterung und Kontrolle der Ausgaben großer Sprachmodelle
- Einsatz von Guardrails AI zur Inhaltsprüfung und Validierung
- Festlegung von Strukturen sowie Einschränkungen für die Ausgaben<\/li>
- Überwachung sowie Protokollierung unsicherer Modellantworten
Menschliche Beteiligung und methodische Vorgehensweisen
- Einsatzmöglichkeiten für menschliche Kontrolle – wann und wo erforderlich?
- Zustimmungsprozesse, Schwellenwerte zur Bewertung sowie Mechanismen bei Fehlfunktionen
- Einschätzung des Vertrauensniveaus in das Modell und die Rolle der Erklärbarkeit
Konzepte zur sicheren Entwicklung von LLM-Anwendungen
- Anwendung des „Least-Privilege-Prinzips“ sowie Sandboxing für API-Aufrufe und Agenten
- Grenzregulierung, Drosselung sowie Erkennung missbräuchlicher Nutzung
- Robuste Verknüpfungen mittels LangChain sowie Trennung von Prompts in isolierten Bereichen
Compliance, Logging und Governance
- Gewährleistung der Nachvollziehbarkeit aller Modellausgaben
- Dokumentation von Prozessen sowie Kontrolle von Versionen der verwendeten Prompts<\/li>
- Abstimmung auf interne Sicherheitsrichtlinien sowie rechtliche Anforderungen
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundkenntnisse über große Sprachmodelle sowie promptbasierte Schnittstellen
- Erfahrung bei der Entwicklung von LLM-Anwendungen mit Python
- Kenntnisse im Bereich API-Integration und Cloud-Deployments
Zielgruppe
- KI-Entwickler
- Anwendungs- und Lösungsarchitekten
- Technische Produktmanager, die mit LLM-Tools arbeiten
