Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Dauer 28 Stunden
Schulungsübersicht
Einführung
- Was ist CUDA?
- CUDA vs. OpenCL vs. SYCL
- Überblick über CUDA-Funktionen und -Architektur
- Einrichtung der Entwicklungsumgebung
Erste Schritte
- Erstellen eines neuen CUDA-Projekts mit Visual Studio Code
- Erforschung der Projektstruktur und Dateien
- Kompilieren und Ausführen des Programms
- Ausgabe der Ergebnisse mithilfe von printf und fprintf
CUDA API
- Verständnis der Rolle der CUDA-API im Host-Programm
- Nutzung der CUDA-API zum Abfragen von Geräteinformationen und -fähigkeiten
- Nutzung der CUDA-API zur Allozierung und Freigabe von Gerätespeicher
- Nutzung der CUDA-API zum Kopieren von Daten zwischen Host und Gerät
- Nutzung der CUDA-API zum Starten von Kernen und Synchronisieren von Threads
- Nutzung der CUDA-API zur Behandlung von Fehlern und Ausnahmen
CUDA C/C++
- Verständnis der Rolle von CUDA C/C++ im Geräteprogramm
- Verwendung von CUDA C/C++ zum Schreiben von Kernen, die auf der GPU ausgeführt werden und Daten manipulieren
- Verwendung von CUDA C/C++-Datentypen, Qualifikatoren, Operatoren und Ausdrücken
- Verwendung von CUDA C/C++-eingebauten Funktionen wie math, atomic, warp usw.
- Verwendung von CUDA C/C++-eingebauten Variablen wie threadIdx, blockIdx, blockDim usw.
- Verwendung von CUDA C/C++-Bibliotheken wie cuBLAS, cuFFT, cuRAND usw.
CUDA-Speichermodell
- Verständnis des Unterschieds zwischen Host- und Gerät-Speichermodellen
- Nutzung von CUDA-Speicherräumen wie global, shared, constant und local
- Nutzung von CUDA-Speicheroobjekten wie Zeigern, Arrays, Texturen und Oberflächen
- Nutzung von CUDA-Speicherzugriffsmodi wie read-only, write-only, read-write usw.
- Nutzung des CUDA-Speicherkonsistenzmodells und der Synchronisationsmechanismen
CUDA-Ausführungsmodell
- Verständnis des Unterschieds zwischen Host- und Gerät-Ausführungsmodellen
- Nutzung von CUDA-Threads, Blöcken und Rastern zur Definition der Parallelität
- Nutzung von CUDA-Thread-Funktionen wie threadIdx, blockIdx, blockDim usw.
- Nutzung von CUDA-Block-Funktionen wie __syncthreads, __threadfence_block usw.
- Nutzung von CUDA-Grid-Funktionen wie gridDim, gridSync, cooperative groups usw.
Fehlerbehebung
- Verständnis häufiger Fehler und Bugs in CUDA-Programmen
- Nutzung des Visual Studio Code-Debuggers zur Inspektion von Variablen, Setzen von Unterbrechungen, Ansehen des Aufrufstacks usw.
- Nutzung von CUDA-GDB zum Debuggen von CUDA-Programmen unter Linux
- Nutzung von CUDA-MEMCHECK zur Erkennung von Speicherfehlern und -lecks
- Nutzung von NVIDIA Nsight zum Debuggen und Analysieren von CUDA-Programmen unter Windows
Optimierung
- Verständnis der Faktoren, die die Leistung von CUDA-Programmen beeinflussen
- Verwendung von CUDA-Coalescing-Techniken zur Verbesserung des Speicher-Durchsatzes
- Verwendung von CUDA-Caching- und Prefetching-Techniken zur Reduzierung der Speicherlatenz
- Verwendung von Techniken für CUDA-Shared-Memory und Local-Memory zur Optimierung von Speicherzugriffen und Bandbreite
- Verwendung von CUDA-Profiling und Profiling-Werkzeugen zur Messung und Verbesserung der Ausführungszeit und Ressourcenauslastung
Voraussetzungen
- Verständnis der C/C++-Sprache und von Konzepten der Parallelprogrammierung
- Grundkenntnisse der Computerarchitektur und der Speichersatzhierarchie
- Erfahrung mit Kommandozeilenwerkzeugen und Code-Editoren
Zielgruppe
- Entwickler, die lernen möchten, wie man CUDA zur Programmierung von NVIDIA-GPUs verwendet und deren Parallelität ausschöpft
- Entwickler, die hochperformanten und skalierbaren Code schreiben möchten, der auf verschiedenen CUDA-Geräten ausgeführt werden kann
- Programmierer, die die tieferliegenden Aspekte der GPU-Programmierung erkunden und die Leistung ihres Codes optimieren möchten