Schulungsübersicht
Einführung in das Deep Learning
- Was ist Deep Learning – und worin unterscheidet es sich vom klassischen maschinellen Lernen?
- Praktische Anwendungen im Bereich Computer Vision, NLP und darüber hinaus.
- Überblick über das Deep Learning-Ökosystem: TensorFlow 2.x, Keras sowie PyTorch.
- Einrichtung einer GPU-beschleunigten Entwicklungsumgebung.
Die Mechanismen des Deep Learning
- Künstliche Neuronen, Aktivierungsfunktionen und Netzwerkschichten.
- Vorwärtspropagation sowie Berechnung von Vorhersagen.
- Verlustfunktionen für Klassifizierungs- und Regressionsaufgaben.
- Optimierung durch Gradientenabstieg und Backpropagation.
- Trainieren des ersten neuronalen Netzes am Beispiel des MNIST-Datensatzes.
Konvolutionale neuronale Netze für Computer Vision
- Grundlagen von Konvolution, Filtern sowie Merkmalskarten.
- Pooling-Schichten und Reduzierung der Dimensionenzahl.
- Architekturen von CNNs: Konzepte zu LeNet, VGG und ResNet.
- Entwickeln und Trainieren eines CNNs für die Bildklassifizierung.
- Visualisierung der gelernten Merkmale sowie Zwischenergebnisse.
Datenaugmentation zur Verbesserung der Modellgenauigkeit
- Warum Datenaugmentationsmethoden Überanpassung verhindern und die Generalisierungsfähigkeit steigern.
- Bildtransformationen: Rotation, Spiegelung, Vergrößerung und Zuschneiden.
- Implementierung von Augmentations-Pipelines mithilfe der Vorverarbeitungsschichten in Keras.
- Techniken wie Dropout und Batch Normalization zur Regularisierung.
- Überwachung des Trainingsprozesses anhand von Validierungsmetriken sowie Frühstopp-Verfahren.
Transfer Learning mit vortrainierten Modellen
- Was ist Transfer Learning – und warum funktioniert es?
- Laden vortrainierter Modelle aus dem Modulsatz Keras Applications (ResNet, EfficientNet, MobileNet).
- Merkmalsextraktion: Einfrieren der Basisschichten sowie Training neuer Klassifikatoren.
- Feinabstimmung – gezieltes Freigeben bestimmter Schichten für eine Anpassung an neue Domänen.
- Erzielen hoher Genauigkeit trotz begrenzter Trainingsdatenmengen.
Rekurrente Netze und Sequenzmodellierung
- Einführung in sequentielle Daten sowie zeitliche Abhängigkeiten.
- Rekurrente neuronale Netze (RNNs) – auch das Problem des verschwindenden Gradienten wird erläutert.
- LSTM- und GRU-Zellen zur Verarbeitung langer zeitlicher Abfolgen.
- Trainieren eines Textgenerierungsmodells auf Zeichenebene.
- Word Embeddings sowie die Embedding-Schicht in Keras.
Grundlagen der Verarbeitung natürlicher Sprache
- Vorverarbeitung von Text: Tokenisierung, Padding und Aufbau eines Vokabulars.
- Erstellung eines Textklassifizierers mit RNNs bzw. LSTMs.
- Konzepte zu Sequenz-zu-Sequenz-Modellen für maschinelle Übersetzung.
- Aufmerksamkeitsmechanismen – deren Rolle in modernen NLP-Verfahren.
- Praktische Anwendungen im NLP mit den Textverarbeitungs-APIs von TensorFlow 2.x.
Abschlussprojekt: Bildunterschreibungssystem
- Kombination von Computer Vision und Verarbeitung natürlicher Sprache in einer multimodalen Architektur.
- Extraktion von Bildmerkmalen mittels eines vortrainierten CNN-Encoders.
- Entwicklung eines LSTM-basierten Decoders für die Generierung von Beschreibungen.
- Nutzung der funktionalen API in Keras zur Verknüpfung mehrerer Eingabeschichten.
- Trainieren und Bewerten des kompletten Systems zur Erstellung von Bildunterschriften.
Nächste Schritte und weitere Ressourcen
- Bereitstellen trainierter Modelle mithilfe von TensorFlow Serving.
- Einblick in Transformer-Architekturen sowie große Sprachmodelle.
- Fortgeschrittene Workshops und Zertifizierungswege von NVIDIA DLI.
- Verfügbare Communities, Datensätze sowie Ideen für eigene Projekte.
Voraussetzungen
- Grundkenntnisse in der Python-Programmierung (Funktionen, Schleifen, Dictionaries, Arrays)
- Bekanntheit mit grundlegenden Programmierkonzepten wie Variablen, Bedingungen und Datentypen
- Vorherige Kenntnisse im Bereich Deep Learning oder maschinelles Lernen sind nicht erforderlich
Zielgruppe
- Softwareentwickler und Ingenieure, die in den Bereich KI und maschinelles Lernen einsteigen möchten.
- Datenanalysten sowie Datenwissenschaftler, die Deep Learning-Kompetenzen erlangen wollen.
- Technische Fachkräfte, die neuronalen Netzwerken näherkommen und diese anwenden möchten.
- Studierende sowie Forscher, die ihre Ausbildung im Deep Learning vertiefen wollen.
Erfahrungsberichte (2)
Die Ausbildung war gut organisiert und strukturiert. Ich habe sie mit systematischem Wissen und einer fundierten Übersicht der behandelten Themen successfully absolviert.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Kurs - Deep Learning with TensorFlow 2
Maschinelle Übersetzung
Mir hat besonders der Schluss gefallen, als wir die Zeit nahmen, mit CHAT GPT herumzuspielen. Der Raum war dafür jedoch nicht optimal eingerichtet – anstelle eines großen Tisches wären ein paar kleinere Tische nützlicher gewesen, damit wir in kleinen Gruppen zusammenkommen und brainstormen könnten.
Nola - Laramie County Community College
Kurs - Artificial Intelligence (AI) Overview
Maschinelle Übersetzung