Kontakt aufnehmen

Schulungsübersicht

Einführung in KI-Inferenz mit Docker

  • Verständnis von KI-Inferenz-Arbeitslasten
  • Vorteile containerisierter Inferenz
  • Bereitstellungsszenarien und Einschränkungen

Erstellung von KI-Inferenz-Containern

  • Auswahl der Basisimages und Frameworks
  • Verpacken vortrainierter Modelle
  • Strukturieren des Inferenzcodes für die Containerausführung

Sicherheit containerisierter KI-Dienste

  • Verringern der Angriffsfläche von Containern
  • Verwalten von Geheimnissen und sensiblen Dateien
  • Sichere Netzwerk- und API-Freigabestrategien

Porable Bereitstellungsverfahren

  • Optimieren von Images für Portabilität
  • Sicherstellen vorhersagbarer Laufzeitumgebungen
  • Verwalten von Abhängigkeiten plattformübergreifend

Lokale Bereitstellung und Tests

  • Ausführen von Diensten lokal mit Docker
  • Debuggen von Inferenz-Containern
  • Testen von Leistung und Zuverlässigkeit

Bereitstellung auf Servern und Cloud-VMs

  • Anpassen von Containern an Remote-Umgebungen
  • Konfigurieren des sicheren Serverzugriffs
  • Bereitstellen von Inferenz-APIs auf Cloud-VMs

Nutzung von Docker Compose für mehrdienstige KI-Systeme

  • Orchestrieren der Inferenz mit unterstützenden Komponenten
  • Verwalten von Umgebungsvariablen und Konfigurationen
  • Skalieren von Mikrodiensten mit Compose

Überwachung und Wartung von KI-Inferenzdiensten

  • Protokollierungs- und Observability-Ansätze
  • Erkennen von Fehlern in Inferenz-Pipelines
  • Aktualisieren und Versionieren von Modellen in der Produktion

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundlegendes Verständnis von Konzepten des maschinellen Lernens
  • Erfahrung mit Python oder Backend-Entwicklung
  • Vertrautheit mit grundlegenden Container-Konzepten

Zielgruppe

  • Entwickler
  • Backend-Ingenieure
  • Teams, die KI-Dienste bereitstellen
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien