Schulungsübersicht
Modul 1: Grundlagen der Python-Programmierung für ML-Workflows
• Eröffnung des Kurses und Einrichtung der Entwicklungsumgebung
Ausrichtung der Ziele sowie Aufbau einer reproduzierbaren Arbeitsumgebung für Machine Learning in Python
• Wesentliche Aspekte der Python-Sprache (im Schnelldurchgang)
Überprüfung von Syntax, Kontrollstrukturen, Funktionen und Mustern, die in ML-Code verwendet werden
• Datenstrukturen im Kontext des Maschinellen Lernens
Listen, Dictionaries, Mengen und Tupel zur Verwaltung von Merkmalen, Labels sowie Metadaten
• Comprehensions sowie funktionale Hilfsmittel
Bildung komplexer Datentransformationen mittels Comprehensions und höherwertigen Funktionen
• Objektorientierte Programmierung in Python für ML-Entwickler
Klassen, Methoden, Zusammensetzung von Objekten sowie praktische Entwurfsentscheidungen
• Dataclasses und kompakte Modellierungswerkzeuge
Typisierte Container zur Verwaltung von Konfigurationen, Beispieldaten und Ergebnissen
• Decoratoren sowie Kontextmanager
Zeitmessung, Caching, Protokollierung sowie sichere Ausführungsstrategien
• Umgang mit Dateien und Pfaden
Gewährleistung einer robusten Verarbeitung von Datensätzen sowie serielle Formatierung
• Fehlerbehandlung und defensives Programmieren
Erstellung von ML-Skripten, die fehlerfrei agieren und transparent melden können
• Module, Pakete sowie Strukturierung von Projekten
Gewinnung strukturierter ML-Codebasen zur Wiederverwendung
• Typisierung und Codequalität
Verwendung von Type Hints, Dokumentation sowie einer fehlervermeidenden Struktur des Codes
Modul 2: Numerische Python-Technologien, SciPy und Datenverarbeitung
• Grundlagen von NumPy für vektorisierte Berechnungen
Effiziente Array-Manipulation sowie performante Programmierungstechniken
• Indexierung, Slicing, Broadcasting und Dimensionenmanagement
Sichere Veränderung von Tensoren unter Berücksichtigung ihrer geometrischen Eigenschaften
• Grundlagen der linearen Algebra mit NumPy und SciPy
Stabile Matrizenoperationen sowie Zerlegungsmethoden, die im ML häufig zum Einsatz kommen
• Vertiefung in SciPy
Statistikverfahren, Optimierungstechniken, Kurvenanpassung und Verarbeitung von dünnbesetzten Matrizen
• Nutzung von Pandas zur Bearbeitung tabellarischer ML-Daten
Säubern, Kombinieren sowie Aggregation der Daten und Aufbereitung für die weitere Verarbeitung
• Ausführliche Einführung in scikit-learn
Verstehen des Estimator-Interfaces, Aufbau von Pipelines sowie Reproduzierbarkeit der Arbeitsabläufe
• Grundlagen der Visualisierung
Grafische Darstellungen zur Datenerkundung und Beobachtung des Verhaltens von Modellen
Modul 3: Programmier-Muster für den Aufbau von ML-Anwendungen
• Umwandlung von Notebook-Code in wiederverwertbare Projekte
Refactoring explorativer Skripte zu strukturierten, wartbaren Codebasen
• Verwaltung von Konfigurationseinstellungen
Auslagerung von Parametern sowie Validierung zur Laufzeit
• Protokollierung, Warnungen und Überwachungssysteme
Strukturierte Logging-Techniken für die nachvollziehbare Diagnostik in ML-Systemen
• Wiederverwendbare Komponenten mittels Objektorientierung und Zusammensetzungsstrategien
Entwicklung flexibler Transformer- sowie Vorhersagealgorithmen
• Praktische Entwurfsmuster für ML-Systeme
Nutzung der sogenannten Pipeline-, Factory-, Registry-, Strategy- und Adapter-Muster
• Validierung von Dateneingaben sowie Überprüfung auf konsistente Schemaangaben
Vermeidung unbemerkter Datenfehler
• Leistungsanalyse und Profiling-Methoden
Aufspüren von Geschwindigkeitsengpässen und gezielte Optimierung des Codes
• Speicherung sowie Schnittstellen für Modelleinführungen
Sichere Persistenzmethoden und saubere Schnittstellen zum Generieren von Vorhersagen
• End-to-End-Entwicklung eines kleinen Modells
Erstellung einer ML-Pipeline im Produktionsstil, inklusive Konfiguration und Logging-Funktionen
Modul 4: Statistische Lernverfahren für tabellarische Daten, Texte und Bilder
• Grundlagen der Modellbewertung
Aufbau von Trainings- und Validierungssplitten, ehrliche Kreuzvalidierung sowie Kennzahlen mit direktem Bezug zur Geschäftslogik
• Fortgeschrittene Verfahren für tabellarische Daten
Regulierte Generalisierte Lineare Modelle, Ensembles von Entscheidungsbäumen und Methoden zur Vermeidung von Datenaustauschproblemen während der Vorverarbeitung
• Kalibrierung sowie Abschätzung statistischer Unsicherheiten
Methoden wie Platt-Scaling, isotonische Regression, Bootstrap-Verfahren und konforme Vorhersagemodelle
• Klassische Verarbeitung natürlicher Sprache (NLP)
Analyse von Tokenisierungsstrategien, TF-IDF-Verfahren, lineare Modelle sowie Naive Bayes-Algorithmen
• Themenmodellierung mittels LDA
Einblick in die Funktionsweise und Grenzen dieser Methode zur Erkennung von Wortbezügen
• Grundlagen der klassischen Computer Vision
Analyseverfahren wie HOG, PCA sowie Strukturanalyse für Bilddaten
• Fehleranalyse bei Modellen
Ermittlung von Verzerrungen, Label-Unsauberheiten und unerwünschten Korrelationen im Datenbestand
• Praktische Übungen:
Aufbau einer fehlerfreien Tabellen-Vorverarbeitungs-Pipeline
Vergleich von verschiedenen Textanalyse-Methoden samt Interpretation der Ergebnisse
Entwicklung eines klassischen Bildklassifikations-Systems unter Einbeziehung systematischer Fehleranalysen
Modul 5: Neuronale Netzwerke für tabellarische Daten, Texte und Bilder
• Beherrschung der Trainingsschleife in PyTorch
Entwicklung sauberer Optimierungsprozesse unter Verwendung von AMP, Gradienten-Clip-Verfahren sowie Reproduzierbarkeit garantierenden Methoden
• Strategien zur Optimierung und Regularisierung
Geeignete Initialisierungen, Normalisierungstechniken, Wahl optimaler Optimierer sowie zeitlicher Anpassungsregeln
• Nutzung der gemischten Genauigkeit (Mixed Precision) sowie Skalierung von Berechnungen
Einsatz von Gradientenakkumulation und Strategien zum Erzeugen von Checkpoints zur Geschwindigkeitssteigerung
• Tabellen-basierte neuronale Netzwerke:
Verarbeitung kategorialer Daten per Embedding-Technik, Aufbau von Feature-Cross-Interaktionen sowie Analyse des Einflusses einzelner Merkmale
• Neuronale Textmodellierungen:
Anwendung von Embeddings, Convolutional Neural Networks, BiLSTM oder GRU-Verfahren und effektive Sequenzanalyse-Methoden
• Computervision mit neuronalen Netzen:
Einführung in Grundlagen des Convolutional Learning sowie Einsatz gängiger Architekturen wie ResNet
• Praktische Übungen:
Konstruktion einer wiederverwertbaren Trainingsframework-Implementierung
Vergleich von tabellarischen neuronalen Netzen mit traditionellen Boosting-Methoden
Einbau zufälliger Variationen mittels Data Augmentation in Convolutional Netzwerke und Analyse der Wirkungsmechanismen
Modul 6: Fortgeschrittene neuronale Architekturen
• Strategien des Transfer Learnings:
Festlegen von Parameter-Gruppen zur Aktivierung oder Deaktivierung, Optimierung der Lernraten für unterschiedliche Netzwerkbereiche
• Transformer-Architekturen im Kontext natürlicher Sprache:
Erläuterung des Self-Attention-Mechanismus und Vorgehensweisen beim anschließenden Feinabstimmungsprozess der Modelle
• Vision-Backbones und dichte Vorhersageverfahren:
Gewinnung vertiefter Einsichten in Modellarchitekturen wie ResNet, EfficientNet sowie die Prinzipien des Vision Transformer-Konzepts und U-Net-Modelle
• Spezialisierte Architekturen für tabellarische Daten:
Aufbauverfahren mittels TabTransformer, FT-Transformer oder Deep-and-Cross-Network-Strukturierungstechniken
• Zeitreihenverarbeitung mit ML-Methoden:
Bildung zeitlich abgestimmter Trainingssplitte und Identifikation von Verschiebungen in Merkmalsverteilungen
• Effizienzverbesserungsmethoden mittels PEFT-Techniken:
Auswirkungen der Verwendung von LoRA, Distillation-Verfahren sowie Quantisierungsstrategien auf Modellleistung und Speichereffizienz
• Praktische Übungen:
Feinabstimmung vorgefertigter Text-Traversoren
Auswahl optimierter Bildmodell-Architekturen mittels Transfer Learning-Methodik
Vergleich der Leistungsmerkmale von Tabellen-basierten Transformer-Systemen versus Gradient Boosting Decision Trees
Modul 7: Systeme der generativen KI
• Fundamente des Prompting:
Aufbau strukturierter Eingabesätze zur Steuerung des Verhaltens von LLM-Systemen
• Grundlagen großer Sprachmodelle (LLMs):
Einführung in Tokenisierung, Trainingsstrategie basierend auf instruktionalen Daten sowie Vermeidungsverfahren für Halluzinationseffekte
• Retrieval-Augmented Generation:
Bearbeitung von Informationsfragmenten, Nutzung semantischer Vektoren zur Abgleichung von Inhalten, hybride Suchalgorithmen sowie Messmethoden der Ergebnisqualität
• Verfahren zur Feinabstimmung neuronaler Netzwerke:
Einsatz von LoRA bzw. QLoRA-Techniken unter gleichzeitiger Sicherstellung hoher Datenqualität<
• Einführung in Diffusionsmodelle:
Intuitives Verständnis der latenten Diffusionsmethodik und praktische Anwendungsmöglichkeiten dieser Modellkategorie
• Generierung synthetischer tabellarischer Daten mittels CTGAN-Methodik
Einbeziehung relevanter Datenschutzaspekte beim Erstellen solcher Datensätze<
• Praktische Übungen:
Aufbau eines kleinen RAG-Systems im Produktionsstil zur Informationssuche
Validierung strukturierter Ausgaben mittels Schema-Verifizierungsprozesse
Einführung von Diffusionsmodellen in das Lernszenario auf freiwilliger Basis<
Modul 8: KI-Agenten und MCP-Interoperabilitätsstandards
• Konstruktion eines Agentenzyklus:
Aufbau einer Abfolge aus Beobachtung, Planung, Ausführung, Reflexion sowie Speicherung vergangener Zustände<
• Gestaltungsmuster für Agenten-Architekturen:
Einbettung von Strategien wie ReAct, Plan-and-Execute-Systematik oder Multi-Agente-Koordinationsmodelle<
• Strategien der Datenhaltung bei Agentensystemen:
Verwendung episodischer, semantischer Datenspeicherungen sowie temporärer Merkmalsrepräsentationen auf Skriptebene<
• Sicherheitsmanagement bei Werkzeugkombinationen:
Ausarbeitung standardisierter Schnittstellenregelungen, Sandbox-Umgebungen sowie Schutzmaßnahmen gegen unerwünschte Prompt-Injektionen<
• Test- und Bewertungsverfahren für Agentensysteme:
Einsatz replizierbarer Ausgangssituationen, standardisierter Aufgabengruppen sowie automatisierten Regressionstests<
• MCP-Infrastrukturen und Protokollgestützte Verbindungsmodellierung:
Auswahl geeigneter Serverarchitekturen für sichere Bereitstellung kompatibler Werkzeuge innerhalb des MCP-Systems<
• Praktische Übungen:
Individuelle Entwicklung eines eigenen Agentensystems von Grund auf
Auslegung einer wiederverwertbaren Schnittstellen-Einführung für externe Werkzeuge mittels MCP-Vereinbarungsmechanismen<
Voraussetzungen
Die Teilnehmer sollten über solide Kenntnisse in der Python-Programmierung verfügen.
Dieses Programm richtet sich an technisch versierte Fachkräfte mit mittlerem bis fortgeschrittenem Wissenstand.
Erfahrungsberichte (3)
Mir hat besonders der Schluss gefallen, als wir die Zeit nahmen, mit CHAT GPT herumzuspielen. Der Raum war dafür jedoch nicht optimal eingerichtet – anstelle eines großen Tisches wären ein paar kleinere Tische nützlicher gewesen, damit wir in kleinen Gruppen zusammenkommen und brainstormen könnten.
Nola - Laramie County Community College
Kurs - Artificial Intelligence (AI) Overview
Maschinelle Übersetzung
Nach grundlegenden Prinzipien arbeiten und sich innerhalb desselben Tages auf die Anwendung von Fallstudien konzentrieren
Maggie Webb - Department of Jobs, Regions, and Precincts
Kurs - Artificial Neural Networks, Machine Learning, Deep Thinking
Maschinelle Übersetzung
Dass es reale Firmendaten verwendete. Der Trainer hatte einen sehr guten Ansatz, indem er die Teilnehmer aktiv einbezog und sie miteinander wetteifern ließ.
Jimena Esquivel - Zaklad Uslugowy Hakoman Andrzej Cybulski
Kurs - Applied AI from Scratch in Python
Maschinelle Übersetzung