Kontakt aufnehmen

Schulungsübersicht

Grundlagen der hybriden KI-Bereitstellung

  • Verstehen von hybriden, Cloud- und Edge-Bereitstellungsmodellen
  • Eigenschaften von KI-Workloads und Infrastrukturbeschränkungen
  • Auswahl der richtigen Bereitstellungsvertopologie

Containerisierung von KI-Workloads mit Docker

  • Erstellung von GPU- und CPU-Inferenzcontainern
  • Verwaltung sicherer Images und Registrys
  • Implementierung reproduzierbarer Umgebungen für KI

Bereitstellung von KI-Diensten in Cloud-Umgebungen

  • Durchführen der Inferenz auf AWS, Azure und GCP über Docker
  • Bereitstellen von Cloud-Compute-Ressourcen für die Modellserving
  • Sichern cloudbasierter KI-Endpunkte

Edge- und On-Premise-Bereitstellungstechniken

  • Betrieb von KI auf IoT-Geräten, Gateways und Microservern
  • Leichtgewichtige Laufzeiten für Edge-Umgebungen
  • Verwaltung von intermittierender Konnektivität und lokaler Persistenz

Hybrides Networking und sichere Konnektivität

  • Sichere Tunnels zwischen Edge und Cloud
  • Zertifikate, Geheimnisse und tokenbasierte Zugänge
  • Performance-Tuning für latenzarme Inferenz

Orchestrierung verteilter KI-Bereitstellungen

  • Einsatz von K3s, K8s oder leichtgewichtiger Orchestrierung für hybride Setup
  • Service Discovery und Workload-Scheduling
  • Automatisierung von Bereitstellungsstrategien über mehrere Standorte hinweg

Monitoring und Observability in verschiedenen Umgebungen

  • Verfolgung der Inferenz-Performance an verschiedenen Standorten
  • Zentrale Protokollierung für hybride KI-Systeme
  • Fehlererkennung und automatisierte Wiederherstellung

Skalierung und Optimierung hybrider KI-Systeme

  • Skalieren von Edge-Clustern und Cloud-Knoten
  • Optimieren der Bandbreitennutzung und des Caching
  • Ausbalancieren der Compute-Lasten zwischen Cloud und Edge

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Containerisierungskonzepte
  • Erfahrung mit Linux-Befehlszeilenoperationen
  • Vertrautheit mit KI-Modellbereitstellungsworkflows

Zielgruppe

  • Infrastrukturarchitekten
  • Site Reliability Engineers (SREs)
  • Edge- und IoT-Entwickler
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (3)

Kommende Kurse

Verwandte Kategorien