Kontakt aufnehmen

Schulungsübersicht

Einführung in Cambricon und die MLU-Architektur

  • Übersicht über das KI-Chip-Portfolio von Cambricon
  • MLU-Architektur und Instruktionpipeline
  • Unterstützte Modelltypen und Anwendungsfälle

Installation der Entwicklungstoolchain

  • Installation von BANGPy und dem Neuware-SDK
  • Einrichtung der Umgebung für Python und C++
  • Modellkompatibilität und Vorverarbeitung

Modellentwicklung mit BANGPy

  • Tensorstruktur und Formverwaltung
  • Aufbau von Berechnungsgraphen
  • Unterstützung für benutzerdefinierte Operationen in BANGPy

Bereitstellung mit der Neuware-Runtime

  • Konvertierung und Laden von Modellen
  • Ausführung und Steuerung der Inferenz
  • Bereitstellungspraktiken für Edge und Rechenzentren

Performance-Optimierung

  • Speicherkartierung und Layer-Tuning
  • Ausführungsspurverfolgung und Profiling
  • Häufige Engpässe und deren Behebung

Integration der MLU in Anwendungen

  • Verwendung der Neuware-APIs für die Anwendungskopplung
  • Streaming und Unterstützung für mehrere Modelle
  • Hybride CPU-MLU-Inferenzszenarien

End-to-End-Projekt und Anwendungsfall

  • Praxisübung: Bereitstellung eines Vision- oder NLP-Modells
  • Edge-Inferenz mit BANGPy-Integration
  • Testen von Genauigkeit und Durchsatz

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Verständnis der Strukturen von Machine-Learning-Modellen
  • Erfahrung mit Python und/oder C++
  • Vertrautheit mit Konzepten zur Modellbereitstellung und -beschleunigung

Zielgruppe

  • Embedded-AI-Entwickler
  • ML-Ingenieure, die in Edge- oder Rechenzentren bereitstellen
  • Entwickler, die mit chinesischer KI-Infrastruktur arbeiten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien