Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in die Entwicklung benutzerdefinierter Operatoren
- Warum benutzerdefinierte Operatoren entwickeln? Anwendungsfälle und Einschränkungen
- Struktur der CANN-Laufzeitumgebung und Integrationsschnittstellen für Operatoren
- Überblick über TBE, TIK und TVM im KI-Ökosystem von Huawei
Verwendung von TIK für die Programmierung von Operatoren auf niedriger Ebene
- Verständnis des TIK-Programmiermodells und der unterstützten APIs
- Speichermanagement und Tiling-Strategie in TIK
- Erstellung, Kompilierung und Registrierung eines benutzerdefinierten Ops mit CANN
Testen und Validieren benutzerdefinierter Ops
- Unit-Testing und Integrationstesting von Ops im Graphen
- Fehlerbehebung bei Performanzproblemen auf Kernel-Ebene
- Visualisierung der Op-Ausführung und des Pufferverhaltens
Scheduling und Optimierung basierend auf TVM
- Überblick über TVM als Compiler für Tensor-Operatoren
- Schreiben eines Schedules für einen benutzerdefinierten Op in TVM
- TVM-Tuning, Benchmarking und Codegenerierung für Ascend
Integration in Frameworks und Modelle
- Registrierung benutzerdefinierter Ops für MindSpore und ONNX
- Überprüfung der Modellintegrität und des Fallback-Verhaltens
- Unterstützung von Multi-Operator-Graphen mit gemischter Präzision
Fallstudien und spezialisierte Optimierungen
- Fallstudie: Hocheffiziente Konvolution für kleine Eingabeformen
- Fallstudie: Speicheroptimierte Optimierung des Attention-Operators
- Best Practices beim Deployment benutzerdefinierter Ops über verschiedene Geräte hinweg
Zusammenfassung und nächste Schritte
Voraussetzungen
- Umfassende Kenntnisse über die internen Strukturen von KI-Modellen und Berechnungen auf Operator-Ebene
- Erfahrung mit Python und Linux-Entwicklungsumgebungen
- Vertrautheit mit neuronalen Netzwerk-Compilern oder Optimierern auf Graphenebene
Zielgruppe
- Compiler-Entwickler, die an KI-Toolchains arbeiten
- Systementwickler, die sich auf KI-Optimierung auf niedriger Ebene spezialisiert haben
- Entwickler, die benutzerdefinierte Ops erstellen oder neue KI-Workloads ansteuern
14 Stunden
