Kontakt aufnehmen
 Dauer 14 Stunden

Schulungsübersicht

Einführung in die KI-Inferenz mit Docker

  • Verständnis von KI-Inferenz-Arbeitslasten
  • Vorteile der kontainertisierten Inferenz
  • Bereitstellungsszenarien und Einschränkungen

Aufbau von KI-Inferenz-Containern

  • Auswahl von Basis-Images und Frameworks
  • Packaging von vortrainierten Modellen
  • Strukturierung des Inferenz-Codes für die Container-Ausführung

Absicherung kontainertisierter KI-Dienste

  • Minimierung der Angriffsfläche des Containers
  • Verwaltung von Secrets und sensiblen Dateien
  • Strategien für sichere Vernetzung und API-Exposition

Techniken für portableren Einsatz

  • Optimierung von Images für Portabilität
  • Garantierung vorhersehbarer Laufzeitumgebungen
  • Verwaltung von Abhängigkeiten über verschiedene Plattformen hinweg

Lokaler Einsatz und Testen

  • Ausführung von Diensten lokal mit Docker
  • Fehlersuche in Inferenz-Containern
  • Testen von Leistung und Zuverlässigkeit

Bereitstellung auf Servern und Cloud-VMs

  • Anpassung der Container für Remote-Umgebungen
  • Konfiguration sicheren Serverzugriffs
  • Bereitstellung von Inferenz-APIs auf Cloud-VMs

Einsatz von Docker Compose für Multi-Service-KI-Systeme

  • Orchestrierung der Inferenz mit unterstützenden Komponenten
  • Verwaltung von Umgebungsvariablen und Konfigurationen
  • Skalierung von Microservices mit Compose

Überwachung und Wartung von KI-Inferenzdiensten

  • Ansätze für Logging und Beobachtbarkeit (Observability)
  • Erkennung von Fehlern in Inferenz-Pipelines
  • Aktualisierung und Versionierung von Modellen im Produktivbetrieb

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundverständnis von Konzepten des maschinellen Lernens
  • Erfahrung mit Python oder Backend-Entwicklung
  • Vertrautheit mit grundlegenden Container-Konzepten

Zielgruppe

  • Entwickler
  • Backend-Ingenieure
  • Teams, die KI-Dienste bereitstellen

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien