Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 14 Stunden
Schulungsübersicht
Einführung in die KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Arbeitslasten
- Vorteile der kontainertisierten Inferenz
- Bereitstellungsszenarien und Einschränkungen
Aufbau von KI-Inferenz-Containern
- Auswahl von Basis-Images und Frameworks
- Packaging von vortrainierten Modellen
- Strukturierung des Inferenz-Codes für die Container-Ausführung
Absicherung kontainertisierter KI-Dienste
- Minimierung der Angriffsfläche des Containers
- Verwaltung von Secrets und sensiblen Dateien
- Strategien für sichere Vernetzung und API-Exposition
Techniken für portableren Einsatz
- Optimierung von Images für Portabilität
- Garantierung vorhersehbarer Laufzeitumgebungen
- Verwaltung von Abhängigkeiten über verschiedene Plattformen hinweg
Lokaler Einsatz und Testen
- Ausführung von Diensten lokal mit Docker
- Fehlersuche in Inferenz-Containern
- Testen von Leistung und Zuverlässigkeit
Bereitstellung auf Servern und Cloud-VMs
- Anpassung der Container für Remote-Umgebungen
- Konfiguration sicheren Serverzugriffs
- Bereitstellung von Inferenz-APIs auf Cloud-VMs
Einsatz von Docker Compose für Multi-Service-KI-Systeme
- Orchestrierung der Inferenz mit unterstützenden Komponenten
- Verwaltung von Umgebungsvariablen und Konfigurationen
- Skalierung von Microservices mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Ansätze für Logging und Beobachtbarkeit (Observability)
- Erkennung von Fehlern in Inferenz-Pipelines
- Aktualisierung und Versionierung von Modellen im Produktivbetrieb
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundverständnis von Konzepten des maschinellen Lernens
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Container-Konzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
Erfahrungsberichte (2)
Wie ich bereits erwähnt habe, war dies für mich (ohne Erfahrung) ein Tor zum Verständnis der Funktionen und Möglichkeiten dieser Programme und Werkzeuge.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Kurs - Docker and Kubernetes
Maschinelle Übersetzung
ein mehrstufiges, strukturiertes Kursprogramm.
Bert Paelinckx - Cube SoftwareSolutions
Kurs - Introduction to Docker
Maschinelle Übersetzung