Kontakt aufnehmen

Schulungsübersicht

Einführung in QLoRA und Quantisierung

  • Übersicht über Quantisierungsverfahren und deren Rolle bei der Modelloptimierung
  • Einführung in das QLoRA-Framework sowie dessen Vorteile
  • Unterschiede zwischen QLoRA und herkömmlichen Methoden zur Feinabstimmung

Grundlagen großer Sprachmodelle (LLMs)

  • Einführung in LLMs sowie deren Architektur
  • Herausforderungen bei der Feinabstimmung großer Modelle im großen Maßstab
  • Wie Quantisierung dabei hilft, Rechenbeschränkungen beim Feinabstimmen von LLMs zu umgehen

Implementierung von QLoRA zur Feinabstimmung von LLMs

  • Einrichten des QLoRA-Frameworks sowie der Umgebung
  • Vorbereitung der Datensätze für das QLoRA-Feinabstimmen
  • Schrittweise Anleitung zur Implementierung von QLoRA bei LLMs mithilfe von Python, PyTorch bzw. TensorFlow

Optimierung der Feinabstimmungsleistung mit QLoRA

  • Ausgewogenheit zwischen Modellgenauigkeit und Leistung unter Einsatz von Quantisierung
  • Verfahren zur Reduzierung der Rechenkosten sowie des Speicherbedarfs beim Feinabstimmen
  • Strategien für ein effizientes Feinabstimmen auch bei geringen Hardware-Anforderungen

Evaluation feinabgestimmter Modelle

  • Möglichkeiten zur Bewertung der Wirksamkeit feinabgestimmter Modelle
  • Häufig verwendete Bewertungskriterien für Sprachmodelle
  • Optimierung der Modellleistung nach der Feinabstimmung sowie Lösung von Problemen

Einsatz und Skalierung feinabgestimmter Modelle

  • Beste Vorgehensweisen für die Produktionsbereitstellung quantisierter LLMs
  • Skalieren der Bereitstellung zur Abwicklung von Echtzeit-Anfragen
  • Werkzeuge und Frameworks zur Implementierung sowie Überwachung solcher Modelle

Praktische Anwendungsfälle und Fallstudien

  • Fallbeispiel: Feinabstimmung von LLMs für Kundensupport-Anfragen sowie andere NLP-Aufgaben
  • Beispiele aus Branchen wie Gesundheitswesen, Finanzen und E-Commerce für die Anwendung der QLoRA-Methode
  • Erkenntnisse aus realen Projekten, in denen Modelle mittels QLoRA feinabgestimmt wurden

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundkenntnisse im Maschinenlernen sowie Kenntnis neuronaler Netzwerke
  • Erfahrung in der Feinabstimmung von Modellen und im Transferlearning
  • Vertrautheit mit großen Sprachmodellen (LLMs) sowie Deep-Learning-Frameworks wie PyTorch oder TensorFlow

Zielgruppe

  • Maschinenlern-Ingenieure
  • KI-Entwickler
  • Datenwissenschaftler
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien