Building Secure and Responsible LLM Applications Schulung
LLM application security is the discipline of designing, building, and maintaining safe, trustworthy, and policy-compliant systems using large language models.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.
By the end of this training, participants will be able to:
- Understand the core vulnerabilities of LLM-based systems.
- Apply secure design principles to LLM app architecture.
- Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
- Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Schulungsübersicht
Overview of LLM Architecture and Attack Surface
- How LLMs are built, deployed, and accessed via APIs
- Key components in LLM app stacks (e.g., prompts, agents, memory, APIs)
- Where and how security issues arise in real-world use
Prompt Injection and Jailbreak Attacks
- What is prompt injection and why it’s dangerous
- Direct and indirect prompt injection scenarios
- Jailbreaking techniques to bypass safety filters
- Detection and mitigation strategies
Data Leakage and Privacy Risks
- Accidental data exposure through responses
- PII leaks and model memory misuse
- Designing privacy-conscious prompts and retrieval-augmented generation (RAG)
LLM Output Filtering and Guarding
- Using Guardrails AI for content filtering and validation
- Defining output schemas and constraints
- Monitoring and logging unsafe outputs
Human-in-the-Loop and Workflow Approaches
- Where and when to introduce human oversight
- Approval queues, scoring thresholds, fallback handling
- Trust calibration and role of explainability
Secure LLM App Design Patterns
- Least privilege and sandboxing for API calls and agents
- Rate limiting, throttling, and abuse detection
- Robust chaining with LangChain and prompt isolation
Compliance, Logging, and Governance
- Ensuring auditability of LLM outputs
- Maintaining traceability and prompt/version control
- Aligning with internal security policies and regulatory needs
Summary and Next Steps
Voraussetzungen
- An understanding of large language models and prompt-based interfaces
- Experience building LLM applications using Python
- Familiarity with API integrations and cloud-based deployments
Audience
- AI developers
- Application and solution architects
- Technical product managers working with LLM tools
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
Building Secure and Responsible LLM Applications Schulung - Booking
Building Secure and Responsible LLM Applications Schulung - Enquiry
Building Secure and Responsible LLM Applications - Beratungsanfrage
Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Building Private AI Workflows with Ollama
14 StundenDiese von einem Ausbilder geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Fachleute, die sichere und effiziente KI-gesteuerte Arbeitsabläufe mit Ollama implementieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Einsatz und Konfiguration von Ollama für private KI-Verarbeitung.
- KI-Modelle in sichere Unternehmens-Workflows zu integrieren.
- Die KI-Leistung unter Wahrung des Datenschutzes zu optimieren.
- Geschäftsprozesse mit KI-Funktionen vor Ort zu automatisieren.
- die Einhaltung von Sicherheits- und Governance-Richtlinien des Unternehmens zu gewährleisten.
Claude AI for Content Creation
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Anfänger bis Fortgeschrittene, die Inhalte erstellen, schreiben und vermarkten und Claude AI für die Erstellung, Bearbeitung und Zusammenfassung von Inhalten nutzen möchten, um Blogs, Berichte und Marketingmaterialien zu verbessern.
Am Ende dieses Kurses werden die Teilnehmer in der Lage sein:
- Claude AI für das Brainstorming von Inhalten und die Erweiterung von Ideen zu nutzen.
- das Schreiben mit KI-gestütztem Editieren und Korrekturlesen zu verbessern.
- Zusammenfassungen für lange Inhalte und Berichte zu generieren.
- Die Erstellung von Marketingtexten für verschiedene Plattformen zu automatisieren.
Claude AI for Developers: Building AI-Powered Applications
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Softwareentwickler und KI-Ingenieure, die Claude AI in ihre Anwendungen integrieren, KI-gestützte Chatbots erstellen und Softwarefunktionen mit KI-gesteuerter Automatisierung verbessern möchten.
Am Ende dieses Kurses werden die Teilnehmer in der Lage sein:
- Die Claude AI API zu nutzen, um KI in Anwendungen zu integrieren.
- KI-gesteuerte Chatbots und virtuelle Assistenten zu entwickeln.
- Anwendungen mit KI-gesteuerter Automatisierung und NLP zu verbessern.
- Claude KI-Modelle für verschiedene Anwendungsfälle zu optimieren und fein abzustimmen.
Claude AI for Research and Knowledge Management
14 StundenDiese Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Forscher, Analysten und Wissensarbeiter auf mittlerem Niveau, die Claude AI für die Verarbeitung großer Datenmengen, die Synthese von Informationen und die Automatisierung von Forschungsaufgaben nutzen möchten.
Am Ende dieses Kurses werden die Teilnehmer in der Lage sein:
- Claude AI für Literaturübersichten und Forschungssynthesen zu verwenden.
- Berichte, Forschungspapiere und lange Dokumente zusammenzufassen.
- Wichtige Erkenntnisse und Trends aus strukturierten und unstrukturierten Daten zu extrahieren.
- Claude AI in Forschungs- und Wissensmanagement-Workflows zu integrieren.
Claude AI for Workflow Automation and Productivity
14 StundenDiese von einem Kursleiter geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Einsteiger, die Claude AI in ihre täglichen Arbeitsabläufe integrieren möchten, um Effizienz und Automatisierung zu verbessern.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Claude AI für die Automatisierung sich wiederholender Aufgaben und die Rationalisierung von Arbeitsabläufen zu nutzen.
- Die persönliche und die Team-Produktivität durch KI-gestützte Automatisierung zu steigern.
- Claude AI in bestehende Business-Tools und Plattformen zu integrieren.
- KI-gesteuerte Entscheidungsfindung und Aufgabenverwaltung zu optimieren.
Deploying and Optimizing LLMs with Ollama
14 StundenDiese von einem Ausbilder geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Fachleute auf mittlerem Niveau, die LLMs mit Ollama einsetzen, optimieren und integrieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein,:
- LLMs mit Ollama einzurichten und einzusetzen.
- KI-Modelle auf Leistung und Effizienz zu optimieren.
- die Beschleunigung von GPU für verbesserte Inferenzgeschwindigkeiten zu nutzen.
- Ollama in Arbeitsabläufe und Anwendungen zu integrieren.
- Die Leistung von KI-Modellen im Laufe der Zeit zu überwachen und zu erhalten.
Fine-Tuning and Customizing AI Models on Ollama
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Fachleute, die KI-Modelle auf Ollama für eine verbesserte Leistung und domänenspezifische Anwendungen feinabstimmen und anpassen möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein,:
- Eine effiziente Umgebung für die Feinabstimmung von KI-Modellen auf Ollama einzurichten.
- Datensätze für überwachtes Fine-Tuning und Reinforcement Learning vorzubereiten.
- KI-Modelle auf Leistung, Genauigkeit und Effizienz zu optimieren.
- Einsatz von angepassten Modellen in Produktionsumgebungen.
- Evaluierung von Modellverbesserungen und Sicherstellung der Robustheit.
Introduction to Google Gemini AI
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Anfänger und fortgeschrittene Entwickler, die KI-Funktionen in ihre Anwendungen mit Google Gemini AI integrieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Grundlagen großer Sprachmodelle zu verstehen.
- Google Gemini AI für verschiedene KI-Aufgaben einzurichten und zu verwenden.
- Text-zu-Text- und Bild-zu-Text-Transformationen zu implementieren.
- Grundlegende KI-gesteuerte Anwendungen erstellen.
- Erweiterte Funktionen und Anpassungsoptionen in Google Gemini AI kennenlernen.
Google Gemini AI for Content Creation
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Inhaltsersteller, die Google Gemini AI zur Verbesserung der Qualität und Effizienz ihrer Inhalte einsetzen möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Rolle von KI bei der Erstellung von Inhalten zu verstehen.
- Google Gemini AI einzurichten und zu verwenden, um Inhalte zu erstellen und zu optimieren.
- Text-zu-Text-Transformationen anwenden, um kreative und originelle Inhalte zu erstellen.
- SEO-Strategien mit KI-gesteuerten Erkenntnissen umsetzen.
- Analysieren Sie die Leistung von Inhalten und passen Sie Ihre Strategien mit Gemini AI an.
Google Gemini AI for Transformative Customer Service
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Kundendienstmitarbeiter auf mittlerem Niveau, die Google Gemini AI in ihrem Kundendienst implementieren möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Auswirkungen von KI auf den Kundenservice zu verstehen.
- Google Gemini AI einzurichten, um Kundeninteraktionen zu automatisieren und zu personalisieren.
- Text-zu-Text- und Bild-zu-Text-Transformationen zur Verbesserung der Service-Effizienz zu nutzen.
- Entwickeln Sie KI-gesteuerte Strategien für die Analyse von Kundenfeedback in Echtzeit.
- Erforschen Sie erweiterte Funktionen, um einen nahtlosen Kundenservice zu schaffen.
Google Gemini AI for Data Analysis
21 StundenDiese Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Anfänger und Fortgeschrittene, die komplexe Datenanalyseaufgaben in verschiedenen Branchen mit Google Gemini AI intuitiver durchführen möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Grundlagen von Google Gemini AI zu verstehen.
- Verschiedene Datenquellen mit Gemini AI zu verbinden.
- Daten mit natürlichsprachlichen Abfragen zu erkunden.
- Datenmuster zu analysieren und Erkenntnisse abzuleiten.
- Überzeugende Datenvisualisierungen erstellen.
- Datengetriebene Erkenntnisse effektiv kommunizieren.
Intermediate Gemini AI for Public Sector Professionals
16 StundenThis instructor-led, live training in Deutschland (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Introduction to Claude AI: Conversational AI and Business Applications
14 StundenDiese von einem Trainer geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Geschäftsleute, Kundensupport-Teams und Technikbegeisterte, die die Grundlagen von Claude AI verstehen und für Geschäftsanwendungen nutzen möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Fähigkeiten und Anwendungsfälle von Claude AI zu verstehen.
- Claude AI effektiv einzurichten und mit ihr zu interagieren.
- Geschäftsabläufe mit konversationeller KI zu automatisieren.
- Kundenbindung und -support mit KI-gesteuerten Lösungen zu verbessern.
LangChain: Building AI-Powered Applications
14 StundenDiese Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Entwickler und Softwareingenieure, die KI-gestützte Anwendungen mit dem LangChain-Framework erstellen möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Grundlagen von LangChain und seinen Komponenten zu verstehen.
- LangChain mit großen Sprachmodellen (LLMs) wie GPT-4 zu integrieren.
- Modulare KI-Anwendungen mit LangChain zu erstellen.
- Häufige Probleme in LangChain-Anwendungen zu beheben.
Getting Started with Ollama: Running Local AI Models
7 StundenDiese von einem Kursleiter geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an Einsteiger, die Ollama für die Ausführung von KI-Modellen auf ihren lokalen Rechnern installieren, konfigurieren und verwenden möchten.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Die Grundlagen von Ollama und seine Möglichkeiten zu verstehen.
- Ollama für die Ausführung lokaler KI-Modelle einzurichten.
- LLMs mit Ollama einsetzen und mit ihnen interagieren.
- Optimieren der Leistung und Ressourcennutzung für KI-Workloads.
- Erkunden von Anwendungsfällen für den Einsatz lokaler KI in verschiedenen Branchen.