Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Einführung in QLoRA und Quantisierung
- Übersicht über Quantisierungsverfahren und deren Rolle bei der Modelloptimierung
- Einführung in das QLoRA-Framework sowie dessen Vorteile
- Unterschiede zwischen QLoRA und herkömmlichen Methoden zur Feinabstimmung
Grundlagen großer Sprachmodelle (LLMs)
- Einführung in LLMs sowie deren Architektur
- Herausforderungen bei der Feinabstimmung großer Modelle im großen Maßstab
- Wie Quantisierung dabei hilft, Rechenbeschränkungen beim Feinabstimmen von LLMs zu umgehen
Implementierung von QLoRA zur Feinabstimmung von LLMs
- Einrichten des QLoRA-Frameworks sowie der Umgebung
- Vorbereitung der Datensätze für das QLoRA-Feinabstimmen
- Schrittweise Anleitung zur Implementierung von QLoRA bei LLMs mithilfe von Python, PyTorch bzw. TensorFlow
Optimierung der Feinabstimmungsleistung mit QLoRA
- Ausgewogenheit zwischen Modellgenauigkeit und Leistung unter Einsatz von Quantisierung
- Verfahren zur Reduzierung der Rechenkosten sowie des Speicherbedarfs beim Feinabstimmen
- Strategien für ein effizientes Feinabstimmen auch bei geringen Hardware-Anforderungen
Evaluation feinabgestimmter Modelle
- Möglichkeiten zur Bewertung der Wirksamkeit feinabgestimmter Modelle
- Häufig verwendete Bewertungskriterien für Sprachmodelle
- Optimierung der Modellleistung nach der Feinabstimmung sowie Lösung von Problemen
Einsatz und Skalierung feinabgestimmter Modelle
- Beste Vorgehensweisen für die Produktionsbereitstellung quantisierter LLMs
- Skalieren der Bereitstellung zur Abwicklung von Echtzeit-Anfragen
- Werkzeuge und Frameworks zur Implementierung sowie Überwachung solcher Modelle
Praktische Anwendungsfälle und Fallstudien
- Fallbeispiel: Feinabstimmung von LLMs für Kundensupport-Anfragen sowie andere NLP-Aufgaben
- Beispiele aus Branchen wie Gesundheitswesen, Finanzen und E-Commerce für die Anwendung der QLoRA-Methode
- Erkenntnisse aus realen Projekten, in denen Modelle mittels QLoRA feinabgestimmt wurden
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundkenntnisse im Maschinenlernen sowie Kenntnis neuronaler Netzwerke
- Erfahrung in der Feinabstimmung von Modellen und im Transferlearning
- Vertrautheit mit großen Sprachmodellen (LLMs) sowie Deep-Learning-Frameworks wie PyTorch oder TensorFlow
Zielgruppe
- Maschinenlern-Ingenieure
- KI-Entwickler
- Datenwissenschaftler
14 Stunden
