Schulungsübersicht
Grundlagen agentic Systems in der Produktion
- Agentic Architekturen: Schleifen, Tools, Speicher und Orchestrierungsebenen
- Lebenszyklus von Agenten: Entwicklung, Deployment und kontinuierlicher Betrieb
- Herausforderungen des Management von Agenten in Produktionsgröße
Infrastruktur und Deployment-Modelle
- Deployment von Agenten in containerisierten und Cloud-Umgebungen
- Skalierungsmuster: horizontale vs. vertikale Skalierung, Parallelität und Drosselung
- Orchestrierung von Multi-Agenten und Lastausgleich
Monitoring und Observability
- Wichtige Metriken: Latenz, Erfolgsrate, Speicherverbrauch und Agent-Aufruftiefe
- Verfolgung der Agentenaktivität und Call-Graphen
- Instrumentierung der Observability mit Prometheus, OpenTelemetry und Grafana
Logging, Auditing und Compliance
- Zentralisiertes Logging und strukturierte Ereignisammlung
- Compliance und Auditierbarkeit in agentic Workflows
- Design von Audit-Logs und Replay-Mechanismen zur Fehlersuche
Performance-Tuning und Ressourcenoptimierung
- Reduzierung der Inferenz-Overheads und Optimierung der Orchestrierungszyklen von Agenten
- Modellcaching und leichte Embeddings für schnellere Abrufe
- Lasttests und Stressszenarien für KI-Pipelines
Kostenkontrolle und Governance
- Verständnis der Kostenfaktoren von Agenten: API-Aufrufe, Speicher, Compute und externe Integrationen
- Verfolgung agentenbezogener Kosten und Implementierung von Chargeback-Modellen
- Automatisierungsroutinen zur Verhinderung von Agent Sprawl und ungenutztem Ressourcenverbrauch
CI/CD und Rollout-Strategien für Agenten
- Integration von Agenten-Pipelines in CI/CD-Systeme
- Testen, Versionierung und Rollback-Strategien für iterative Agenten-Updates
- Progressive Rollouts und sichere Deploymentsmechanismen
Fehlererholung und Reliability Engineering
- Design für Fehlertoleranz und sanfte Degradierung
- Retry-, Timeout- und Circuit-Breaker-Patterns für die Zuverlässigkeit von Agenten
- Inzident-Antwort und Post-Mortem-Frameworks für KI-Betrieb
Capstone-Projekt
- Aufbau und Deployment eines agentic KI-Systems mit vollständigem Monitoring und Kostenverfolgung
- Lastsimulation, Leistungsmessung und Optimierung des Ressourceneinsatzes
- Präsentation der finalen Architektur und des Monitoring-Dashboards an Kollegen
Zusammenfassung und nächste Schritte
Voraussetzungen
- Fundierte Kenntnisse in MLOps und produktionsreifen Machine-Learning-Systemen
- Erfahrung mit containerisierten Deployments (Docker/Kubernetes)
- Vertrautheit mit Cloud-Kostenoptimierung und Observability-Tools
Zielgruppe
- MLOps-Engineers
- Site Reliability Engineers (SREs)
- Engineering-Manager, die KI-Infrastruktur beaufsichtigen
Erfahrungsberichte (3)
Starke Bestätigung dafür, dass aktuelle LLMs im richtigen Setup für Kundenprojekte einsetzbar sind.
Oliver Fromm
Kurs - Agentic AI for Enterprise Applications
Der Trainer ist geduldig und sehr hilfsbereit. Er kennt sich gut mit dem Thema aus.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurs - Agentic AI for Business Automation: Use Cases & Integration
Maschinelle Übersetzung
Die Mischung aus Theorie und Praxis sowie den Perspektiven auf hohem und niedrigem Niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurs - Autonomous Decision-Making with Agentic AI
Maschinelle Übersetzung
