Kontakt aufnehmen

Schulungsübersicht

Einführung in die Optimierung großer Modelle

  • Überblick über Architekturen großer Modelle
  • Herausforderungen beim Fein-Tuning solcher Modelle
  • Bedeutung einer kosteneffizienten Optimierung

Techniken des verteilten Trainings

  • Einführung in Daten- und Modellparallelität
  • Frameworks für verteiltes Training: PyTorch und TensorFlow
  • Skalierung auf mehrere GPUs und Rechnerknoten

Modell-Quantisierung und Pruning

  • Grundlagen der Quantisierungsverfahren
  • Einsatz von Pruning zur Reduzierung der Modellgröße
  • Abbwägung zwischen Genauigkeit und Effizienz

Hardware-Optimierung

  • Auswahl geeigneter Hardware für Fein-Tuning-Aufgaben
  • Optimierung der GPU- und TPU-Nutzung
  • Einsatz spezialisierter Beschleuniger für große Modelle

Effizientes Datenmanagement

  • Möglichkeiten zur Verwaltung umfangreicher Datensätze
  • Vorbereitung und Batching von Daten zur Leistungssteigerung
  • Techniken der Datenaugmentation

Einsatz optimierter Modelle

  • Methoden zum Deployen eingefine-tuningter Modelle
  • Überwachung und Pflege der Modellleistung
  • Praktische Beispiele für den Einsatz optimierter Modelle in der Realität

Fortgeschrittene Optimierungstechniken

  • Einführung in das Konzept der Low-Rank Adaptation (LoRA)
  • Nutzung von Adaptern für modulares Fein-Tuning
  • Aktuelle Entwicklungen und Trends in der Modelloptimierung

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Erfahrung mit Deep-Learning-Frameworks wie PyTorch oder TensorFlow
  • Grundkenntnisse in großen Sprachmodellen sowie deren Einsatzmöglichkeiten
  • Verständnis der Konzepte des verteilten Rechnens

Zielgruppe

  • Maschinenlern-Ingenieure
  • Cloud-KI-Spezialisten
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien