Kontakt aufnehmen

Schulungsübersicht

Einführung in Huawei CloudMatrix

  • CloudMatrix-Ökosystem und Deployment-Flow
  • Unterstützte Modelle, Formate und Deployment-Modi
  • Typische Anwendungsfälle und unterstützte Chipsätze

Vorbereitung der Modelle für das Deployment

  • Modell-Export aus Trainingstools (MindSpore, TensorFlow, PyTorch)
  • Verwendung des ATC (Ascend Tensor Compiler) für die Formatkonvertierung
  • Modelle mit statischen gegenüber dynamischen Formen

Deployment auf CloudMatrix

  • Erstellung von Diensten und Registrierung von Modellen
  • Deployment von Inferenzdiensten über UI oder CLI
  • Routing, Authentifizierung und Zugriffskontrolle

Bereitstellung von Inferenzanfragen

  • Flows für Batch- vs. Echtzeit-Inferenz
  • Pipelines für Datenpre- und -postprocessing
  • Aufruf von CloudMatrix-Diensten aus externen Anwendungen

Überwachung und Leistungsanpassung

  • Deployment-Logs und Anfrage-Tracking
  • Skalierung von Ressourcen und Lastausgleich
  • Latenzanpassung und Durchsatzoptimierung

Integration mit Unternehmens-Tools

  • Verknüpfung von CloudMatrix mit OBS und ModelArts
  • Nutzung von Workflows und Modellversionierung
  • CI/CD für Modell-Deployment und Rollback

End-to-End-Inferenz-Pipeline

  • Deployment einer vollständigen Bildklassifizierungs-Pipeline
  • Benchmarking und Validierung der Genauigkeit
  • Simulation von Failover und Systembenachrichtigungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundlegende Kenntnisse der Trainings-Workflows für KI-Modelle
  • Erfahrung mit Python-basierten ML-Frameworks
  • Grundlegende Vertrautheit mit Konzepten des Cloud-Deployments

Zielgruppe

  • KI-Betrieams (AIOps-Teams)
  • Maschinenlern-Ingenieure
  • Cloud-Deployment-Spezialisten, die mit Huawei-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (2)

Kommende Kurse

Verwandte Kategorien