Kontakt aufnehmen
 Dauer 28 Stunden

Schulungsübersicht

Einführung

  • Was ist CUDA?
  • CUDA vs. OpenCL vs. SYCL
  • Überblick über CUDA-Funktionen und -Architektur
  • Einrichtung der Entwicklungsumgebung

Erste Schritte

  • Erstellen eines neuen CUDA-Projekts mit Visual Studio Code
  • Erforschung der Projektstruktur und Dateien
  • Kompilieren und Ausführen des Programms
  • Ausgabe der Ergebnisse mithilfe von printf und fprintf

CUDA API

  • Verständnis der Rolle der CUDA-API im Host-Programm
  • Nutzung der CUDA-API zum Abfragen von Geräteinformationen und -fähigkeiten
  • Nutzung der CUDA-API zur Allozierung und Freigabe von Gerätespeicher
  • Nutzung der CUDA-API zum Kopieren von Daten zwischen Host und Gerät
  • Nutzung der CUDA-API zum Starten von Kernen und Synchronisieren von Threads
  • Nutzung der CUDA-API zur Behandlung von Fehlern und Ausnahmen

CUDA C/C++

  • Verständnis der Rolle von CUDA C/C++ im Geräteprogramm
  • Verwendung von CUDA C/C++ zum Schreiben von Kernen, die auf der GPU ausgeführt werden und Daten manipulieren
  • Verwendung von CUDA C/C++-Datentypen, Qualifikatoren, Operatoren und Ausdrücken
  • Verwendung von CUDA C/C++-eingebauten Funktionen wie math, atomic, warp usw.
  • Verwendung von CUDA C/C++-eingebauten Variablen wie threadIdx, blockIdx, blockDim usw.
  • Verwendung von CUDA C/C++-Bibliotheken wie cuBLAS, cuFFT, cuRAND usw.

CUDA-Speichermodell

  • Verständnis des Unterschieds zwischen Host- und Gerät-Speichermodellen
  • Nutzung von CUDA-Speicherräumen wie global, shared, constant und local
  • Nutzung von CUDA-Speicheroobjekten wie Zeigern, Arrays, Texturen und Oberflächen
  • Nutzung von CUDA-Speicherzugriffsmodi wie read-only, write-only, read-write usw.
  • Nutzung des CUDA-Speicherkonsistenzmodells und der Synchronisationsmechanismen

CUDA-Ausführungsmodell

  • Verständnis des Unterschieds zwischen Host- und Gerät-Ausführungsmodellen
  • Nutzung von CUDA-Threads, Blöcken und Rastern zur Definition der Parallelität
  • Nutzung von CUDA-Thread-Funktionen wie threadIdx, blockIdx, blockDim usw.
  • Nutzung von CUDA-Block-Funktionen wie __syncthreads, __threadfence_block usw.
  • Nutzung von CUDA-Grid-Funktionen wie gridDim, gridSync, cooperative groups usw.

Fehlerbehebung

  • Verständnis häufiger Fehler und Bugs in CUDA-Programmen
  • Nutzung des Visual Studio Code-Debuggers zur Inspektion von Variablen, Setzen von Unterbrechungen, Ansehen des Aufrufstacks usw.
  • Nutzung von CUDA-GDB zum Debuggen von CUDA-Programmen unter Linux
  • Nutzung von CUDA-MEMCHECK zur Erkennung von Speicherfehlern und -lecks
  • Nutzung von NVIDIA Nsight zum Debuggen und Analysieren von CUDA-Programmen unter Windows

Optimierung

  • Verständnis der Faktoren, die die Leistung von CUDA-Programmen beeinflussen
  • Verwendung von CUDA-Coalescing-Techniken zur Verbesserung des Speicher-Durchsatzes
  • Verwendung von CUDA-Caching- und Prefetching-Techniken zur Reduzierung der Speicherlatenz
  • Verwendung von Techniken für CUDA-Shared-Memory und Local-Memory zur Optimierung von Speicherzugriffen und Bandbreite
  • Verwendung von CUDA-Profiling und Profiling-Werkzeugen zur Messung und Verbesserung der Ausführungszeit und Ressourcenauslastung

Voraussetzungen

  • Verständnis der C/C++-Sprache und von Konzepten der Parallelprogrammierung
  • Grundkenntnisse der Computerarchitektur und der Speichersatzhierarchie
  • Erfahrung mit Kommandozeilenwerkzeugen und Code-Editoren

Zielgruppe

  • Entwickler, die lernen möchten, wie man CUDA zur Programmierung von NVIDIA-GPUs verwendet und deren Parallelität ausschöpft
  • Entwickler, die hochperformanten und skalierbaren Code schreiben möchten, der auf verschiedenen CUDA-Geräten ausgeführt werden kann
  • Programmierer, die die tieferliegenden Aspekte der GPU-Programmierung erkunden und die Leistung ihres Codes optimieren möchten

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien