Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in KI-Inferenz mit Docker
- Verständnis von KI-Inferenz-Arbeitslasten
- Vorteile containerisierter Inferenz
- Bereitstellungsszenarien und Einschränkungen
Erstellung von KI-Inferenz-Containern
- Auswahl der Basisimages und Frameworks
- Verpacken vortrainierter Modelle
- Strukturieren des Inferenzcodes für die Containerausführung
Sicherheit containerisierter KI-Dienste
- Verringern der Angriffsfläche von Containern
- Verwalten von Geheimnissen und sensiblen Dateien
- Sichere Netzwerk- und API-Freigabestrategien
Porable Bereitstellungsverfahren
- Optimieren von Images für Portabilität
- Sicherstellen vorhersagbarer Laufzeitumgebungen
- Verwalten von Abhängigkeiten plattformübergreifend
Lokale Bereitstellung und Tests
- Ausführen von Diensten lokal mit Docker
- Debuggen von Inferenz-Containern
- Testen von Leistung und Zuverlässigkeit
Bereitstellung auf Servern und Cloud-VMs
- Anpassen von Containern an Remote-Umgebungen
- Konfigurieren des sicheren Serverzugriffs
- Bereitstellen von Inferenz-APIs auf Cloud-VMs
Nutzung von Docker Compose für mehrdienstige KI-Systeme
- Orchestrieren der Inferenz mit unterstützenden Komponenten
- Verwalten von Umgebungsvariablen und Konfigurationen
- Skalieren von Mikrodiensten mit Compose
Überwachung und Wartung von KI-Inferenzdiensten
- Protokollierungs- und Observability-Ansätze
- Erkennen von Fehlern in Inferenz-Pipelines
- Aktualisieren und Versionieren von Modellen in der Produktion
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundlegendes Verständnis von Konzepten des maschinellen Lernens
- Erfahrung mit Python oder Backend-Entwicklung
- Vertrautheit mit grundlegenden Container-Konzepten
Zielgruppe
- Entwickler
- Backend-Ingenieure
- Teams, die KI-Dienste bereitstellen
14 Stunden
Erfahrungsberichte (3)
Gute und machbare Übungen.
Jannes Wykhoff - Landesamt fur Geoinformation und Landesvermessung Niedersachsen (LGLN)
Kurs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Wie Trainer Wissen effektiv vermitteln
Vu Thoai Le - Reply Polska sp. z o. o.
Kurs - Certified Kubernetes Administrator (CKA) - exam preparation
Maschinelle Übersetzung
Der Trainer hatte viel Wissen und Geduld, die er mit uns teilen konnte.
Bogdan Olaru
Kurs - Introduction to Docker
Maschinelle Übersetzung