Kontakt aufnehmen

Schulungsübersicht

Einführung in Cambricon und die Architektur der MLUs

  • Überblick über das KI-Chip-Portfolio von Cambricon
  • Architektur der MLUs sowie deren Befehlsverarbeitungsprozess
  • Unterstützte Modelltypen und potenzielle Einsatzgebiete

Installation des Entwicklungstoolkits

  • Einrichten von BANGPy sowie des Neuware SDK
  • Konfiguration der Umgebung für Python- und C++-Entwicklung
  • Kompatibilitätsprüfung und Vorverarbeitung von Modellen

Modellentwicklung mithilfe von BANGPy

  • Verwaltung von Tensor-Strukturen und -Formaten
  • Aufbau von Berechnungsgraphen
  • Unterstützung benutzerdefinierter Operationen in BANGPy

Bereitstellung mit dem Neuware Runtime

  • Konvertierung und Laden der Modelle
  • Steuerung von Ausführungsabläufen und Inferenzen
  • Best Practices für die Implementierung auf Edge-Geräten sowie in Rechenzentren

Leistungsoptimierung

  • Datenzuordnung im Speicher sowie Feinabstimmung von Schichten
  • Ausführungsverfolgung und Leistungsanalyse
  • Häufige Engpässe erkennen und beheben

Integration der MLUs in Anwendungen

  • Einsatz von Neuware-APIs zur Einbindung in Softwarelösungen
  • Unterstützung mehrerer Modelle und Echtzeitverarbeitung
  • Szenarien mit gemischter CPU-MLU-Verarbeitung für Inferenzen

Gesamtheitliches Projektbeispiel und Praxisanwendungen

  • Übung: Bereitstellung eines Vision- oder NLP-Modells
  • Einsatz der BANGPy-Funktionalitäten im Edge-Umfeld
  • Validierung von Genauigkeit sowie Verarbeitungsgeschwindigkeit

Zusammenfassung und Ausblick

Voraussetzungen

  • Grundkenntnisse über Strukturen von Maschinellen Lernmodellen
  • Erfahrung mit Python und/oder C++
  • Bekanntschaft mit Konzepten der Modellbereitstellung sowie Beschleunigungstechniken

Zielgruppe

  • Entwickler, die an eingebetteten KI-Anwendungen arbeiten
  • KI-Ingenieure, die Modelle in Edge-Umgebungen oder Rechenzentren einführen
  • Programmierer, die mit chinesischen KI-Infrastrukturen vertraut sind
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (1)

Kommende Kurse

Verwandte Kategorien