Feinabstimmung von Retrieval-Augmented Generation (RAG)-Systemen Schulung
Die Feinabstimmung von Retrieval-Augmented Generation (RAG)-Systemen bezeichnet den Prozess der Optimierung, durch den große Sprachmodelle relevante Informationen aus externen Quellen abrufen und generieren – insbesondere für Anwendungen im Unternehmensbereich.
Dieses von Instruktoren geleitete Live-Training (online oder vor Ort) richtet sich an NLP-Ingenieure mit mittlerem Kenntnisstand sowie Teams zur Wissensverwaltung, die RAG-Pipelines feinabstimmen möchten, um die Leistungsfähigkeit bei Fragenbeantwortung, Unternehmenssuche und Zusammenfassungen zu verbessern.
Am Ende dieses Trainings werden die Teilnehmer folgendes können:
- Die Architektur sowie den Arbeitsablauf von RAG-Systemen verstehen.
- Die Komponenten „Retriever“ und „Generator“ an domänenspezifische Daten anpassen.
- Die Leistung von RAG bewerten und mithilfe von PEFT-Techniken Optimierungen vornehmen.
- Optimierte RAG-Systeme für interne oder produktive Anwendungen bereitstellen.
Aufbau des Kurses
- Interaktiver Vortrag sowie Diskussionen.
- Zahlreiche Übungen und praktische Aufgaben.
- Praktische Umsetzung in einer Live-Lab-Umgebung.
Möglichkeiten zur Kursanpassung
- Um ein auf Ihre Bedürfnisse zugeschnittenes Training zu erhalten, kontaktieren Sie uns bitte, um die Details abzusprechen.
Schulungsübersicht
Einführung in Retrieval-Augmented Generation (RAG)
- Was ist RAG und warum spielt es eine wichtige Rolle für unternehmensweite KI-Anwendungen
- Komponenten eines RAG-Systems: Retriever, Generator sowie Dokumentenspeicher
- Vergleich mit herkömmlichen Großsprachmodellen und Vektorsuchen
Einrichtung einer RAG-Pipeline
- Installation und Konfiguration von Haystack oder ähnlichen Frameworks
- Dokumenteneingabe sowie Vorverarbeitung
- Verknüpfung von Retrievern mit Vektordatenbanken (z. B. FAISS, Pinecone)
Feinabstimmung des Retrievers
- Training dichter Retriever anhand domänenspezifischer Daten
- Einsatz von Sentence Transformers sowie kontrastivem Lernen
- Bewertung der Qualität des Retrievers mithilfe der Top-k-Genauigkeit
Feinabstimmung des Generators
- Auswahl geeigneter Basismodelle (z. B. BART, T5, FLAN-T5)
- Unterschied zwischen Instruktions-Tuning und überwachtem Feinabstimmen
- Anwendung von LoRA sowie PEFT-Methoden zur effizienten Modellanpassung
Evaluation und Optimierung
- Relevante Kennzahlen zur Bewertung der RAG-Leistung (z. B. BLEU, EM, F1)
- Minimierung von Verzögerungen, Verbesserung der Relevanz bei Suche und Reduzierung von Halluzinationen
- Protokollierung von Experimenten sowie kontinuierliche Optimierungsschritte
Bereitstellung und praktische Integration
- Einsatz von RAG-Systemen in internen Suchmaschinen und Chatbots
- Aspekte der Sicherheit, Zugriffskontrolle sowie Datenverwaltung<\/li>
- Integration mit APIs, Dashboards oder Wissensportalen
Fallstudien und bewährte Praktiken
- Praxisbeispiele aus den Bereichen Finanzen, Gesundheitswesen und Recht<
- Umgang mit Veränderungen in der Wissensbasis sowie deren Aktualisierung
- Ausblick auf zukünftige Entwicklungen bei Retrieval-basierten Großsprachmodellen
Zusammenfassung und weitere Schritte
Voraussetzungen
- Kenntnisse der Grundlagen des Natural Language Processing (NLP)
- Erfahrung mit sprachbasierten Transformermodellen
- Bekanntheit mit Python sowie grundlegenden Verfahren des maschinellen Lernens
Zielgruppe
- NLP-Ingenieure
- Teams zur Wissensverwaltung
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
Feinabstimmung von Retrieval-Augmented Generation (RAG)-Systemen Schulung - Buchung
Feinabstimmung von Retrieval-Augmented Generation (RAG)-Systemen Schulung - Anfrage
Feinabstimmung von Retrieval-Augmented Generation (RAG)-Systemen - Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Fortgeschrittenes Feinabstimmen und Prompt-Verwaltung in Vertex AI
14 StundenVertex AI bietet leistungsfähige Werkzeuge zum Feinabstimmen großer Modelle sowie zur Verwaltung von Prompts. Damit können Entwickler und Data-Teams die Genauigkeit der Modelle optimieren, Iterationsprozesse beschleunigen und mithilfe integrierter Bibliotheken eine gründliche Bewertung sicherstellen.
Dieses von einem Trainer geleitete Live-Training (online oder vor Ort) richtet sich an Anwender mit mittlerem bis fortgeschrittenem Kenntnisstand, die die Leistungsfähigkeit und Zuverlässigkeit generativer KI-Anwendungen durch überwachtes Feinabstimmen, Prompt-Versionierung sowie Evaluationsdienste in Vertex AI verbessern möchten.
Am Ende dieses Trainings werden die Teilnehmer folgendes beherrschen:
- Überwachtes Feinabstimmen von Gemini-Modellen in Vertex AI anwenden.
- Prompt-Verwaltungsprozesse einschließlich Versionierung und Tests implementieren.
- Evaluationsbibliotheken nutzen, um die Leistung der KI zu messen und zu optimieren.
- Verbesserte Modelle in Produktionsumgebungen bereitstellen und überwachen.
Aufbau des Kurses
- Interaktive Vorträge sowie Diskussionen.
- Praktische Übungen zur Nutzung der Vertex AI-Tools für Feinabstimmen und Prompt-Verwaltung.
- Fallstudien zu Optimierungsstrategien in Unternehmen.
Möglichkeiten zur Kursanpassung
- Falls Sie ein maßgeschneidertes Training wünschen, kontaktieren Sie uns bitte, um die Details zu besprechen.
Fortgeschrittene Techniken des Transfer-Lernens
14 StundenDieses von einem Instruktor geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an erfahrene Fachkräfte im Bereich des maschinellen Lernens, die moderne Transfer-Lern-Techniken beherrschen und auf komplexe reale Probleme anwenden möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- Die fortgeschrittenen Konzepte und Methoden des Transfer-Lernens zu verstehen.
- Domänenspezifische Adaptionstechniken für vortrainierte Modelle umzusetzen.
- Kontinuierliches Lernen anzuwenden, um sich stetig ändernde Aufgaben und Datensätze zu bewältigen.
- Mehrfach-Task-Fine-Tuning beherrschen, um die Modellleistung über verschiedene Aufgaben hinweg zu verbessern.
Strategien zum kontinuierlichen Lernen und zur Modellaktualisierung für feinabgestimmte Modelle
14 StundenDieses von einem Instruktor geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an erfahrene AI-Wartungstechniker sowie MLOps-Experten, die zuverlässige Abläufe für kontinuierliches Lernen und effektive Aktualisierungsstrategien für bereits eingesetzte, feinabgestimmte Modelle implementieren möchten.
Nach Abschluss dieses Trainings werden die Teilnehmer in der Lage sein zu:
- Die Gestaltung und Implementierung von Arbeitsabläufen für kontinuierliches Lernen bei eingesetzten Modellen.
- Dem Vermeiden katastrophaler Verluste durch angemessenes Training sowie optimale Speicherverwaltung.
- Der Automatisierung der Überwachung sowie des Auslösens von Aktualisierungen aufgrund von Modell- oder Datenänderungen.
- Der Integration von Strategien zur Modellaktualisierung in bestehende CI/CD- und MLOps-Prozesse.
Einsatz feinabgestimmter Modelle in der Produktion
21 StundenDieses von einem Experten geleitete Live-Seminar in Deutschland (online oder vor Ort) richtet sich an erfahrene Fachkräfte, die feinabgestimmte Modelle verlässlich und effizient einsetzen möchten.
Am Ende dieses Seminars werden die Teilnehmer folgendes können:
- Die Herausforderungen beim Einsatz feinabgestimmter Modelle in der Produktion erkennen.
- Modelle mithilfe von Tools wie Docker und Kubernetes containerisieren und bereitstellen.
- Überwachung und Protokollierung für bereits eingesetzte Modelle implementieren.
- Modelle hinsichtlich Latenzzeit und Skalierbarkeit in realen Szenarien optimieren.
Branchenspezifisches Feinabstimmen im Finanzwesen
21 StundenDieser von einem Experten geleitete Live-Workshop in Deutschland (online oder vor Ort) richtet sich an Fachleute auf mittlerem Niveau, die praktische Kompetenzen erlangen möchten, wie man KI-Modelle für entscheidende Aufgaben im Finanzwesen optimiert.
Im Abschluss können die Teilnehmenden:
- die Grundlagen des Feinabstimmens für Finanzanwendungen verstehen.
- vorab trainierte Modelle zur Lösung branchenspezifischer Probleme nutzen.
- Techniken zur Betrugserkennung, Risikobewertung sowie automatisierten Beratungsdiensten anwenden.
- regulatorische Anforderungen wie DSGVO und SOX einhalten.
- Datensicherheit und ethische KI-Prinzipien in Finanzlösungen umsetzen.
Feinabstimmung von Modellen und großen Sprachmodellen (LLMs)
14 StundenDieses von einem Instruktor geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an Fachkräfte mit mittleren bis fortgeschrittenen Kenntnissen, die vorgetrainnte Modelle für spezifische Aufgaben und Datensätze individualisieren möchten.
Nach Abschluss dieses Trainings werden die Teilnehmenden folgendes können:
- Die Grundprinzipien der Feinabstimmung sowie deren Anwendungsbereiche verstehen.
- Datensätze für die Feinabstimmung vorgetrainnter Modelle vorbereiten.
- Große Sprachmodelle (LLMs) für Aufgaben der natürlichen Sprachverarbeitung feinabstimmen.
- Die Modellleistung optimieren sowie häufige Herausforderungen bewältigen.
Effizientes Fein-Tuning mit Low-Rank Adaptation (LoRA)
14 StundenDieses von einem Instruktor geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an Entwickler und KI-Praktiker mittlerer Erfahrung, die Fein-Tuning-Strategien für große Modelle nutzen möchten, ohne überaus viel Rechenkapazität erfordern zu müssen.
Am Ende des Kurses werden die Teilnehmer folgende Fähigkeiten beherrschen:
- Die Grundprinzipien von Low-Rank Adaptation (LoRA) verstehen.
- LoRA erfolgreich zur effizienten Feinabstimmung großer Modelle einsetzen.
- Das Fein-Tuning in ressourcenbegrenzten Umgebungen optimieren.
- Mit LoRA angepasste Modelle auswerten und für reale Anwendungsfälle bereitstellen.
Feinabstimmung multimodaler Modelle
28 StundenDieses von einem Dozenten geleitete Live-Training in Deutschland – entweder online oder vor Ort – richtet sich an Fachkräfte auf fortgeschrittenem Niveau, die die Feinabstimmung multimodaler Modelle für innovative KI-Lösungen beherrschen möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- die Architektur multimodaler Modelle wie CLIP und Flamingo zu verstehen,
- multimodale Datensätze effizient vorzubereiten und zu verarbeiten,
- multimodale Modelle für spezifische Aufgaben feinzustellen,
- die Modelle hinsichtlich Leistung und Einsatzfähigkeit in der Praxis zu optimieren.
Feinabstimmung für die Verarbeitung natürlicher Sprache (NLP)
21 StundenDieses von einem Trainer geleitete Live-Training in Deutschland – online oder vor Ort – richtet sich an Fachkräfte mittleren Niveaus, die ihre NLP-Projekte durch effektives Feinabstimmen vortrainierter Sprachmodelle verbessern möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein zu:
- Die Grundlagen des Feinabstimmens für NLP-Aufgaben zu verstehen.
- Vortrainierte Modelle wie GPT, BERT und T5 für konkrete NLP-Anwendungen feinzustimmen.
- Hyperparameter so zu optimieren, dass die Modellleistung verbessert wird.
- Feinabgestimmte Modelle in realen Anwendungsszenarien auszuwerten und einzusetzen.
Feinabstimmung von KI für Finanzdienstleistungen: Risikovorhersage und Betrugserkennung
14 StundenDieses von einem Instruktor geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an erfahrene Datenwissenschaftler und KI-Ingenieure im Finanzsektor, die Modelle feinabstimmen möchten – etwa für Anwendungen wie Bonitätsbewertung, Betrugserkennung oder Risikomodellierung unter Verwendung spezifischer Finanzdaten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- KI-Modelle anhand von Finanzdatensätzen feinabzustimmen, um Vorhersagen hinsichtlich Betrugsfällen und Risiken zu verbessern.
- Techniken wie Transferlearning, LoRA sowie Regularisierung anzuwenden, um die Effizienz der Modelle zu erhöhen.
- Aspekte der Finanzcompliance in den KI-Modellierungsprozess zu integrieren.
- Die feinabgestimmten Modelle für den Einsatz in Produktionsumgebungen von Finanzdienstleistungsplattformen bereitzustellen.
Feinabstimmung von KI für die Gesundheitsversorgung: Medizinische Diagnose und prädiktive Analytik
14 StundenDieses von Instruktoren geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an Entwickler im Bereich Medizinische KI sowie Datenwissenschaftler mittleren bis fortgeschrittenen Kenntnisstands, die Modelle für die klinische Diagnose, Vorhersage von Erkrankungen und Prognose der Patientenergebnisse unter Verwendung strukturierter sowie unstrukturierter medizinischer Daten feinabstimmen möchten.
Nach Abschluss dieses Trainings werden die Teilnehmer in der Lage sein:
- KI-Modelle anhand von Gesundheitsdaten zu feinabstimmen – einschließlich elektronischer Patientenakten, Bilddaten sowie zeitbasierten Datensätzen.
- Transferlernen, domänenspezifische Adaption sowie Modellkomprimierung in medizinischen Anwendungsfällen anzuwenden.
- Aspekte wie Datenschutz, Verzerrungen in den Daten und regulatorische Vorgaben bei der Entwicklung von Modellen zu berücksichtigen.
- Feinabgestimmte Modelle in realen medizinischen Umgebungen bereitzustellen und zu überwachen.
Feinabstimmung von DeepSeek LLM für maßgeschneiderte KI-Modelle
21 StundenDieses von einem Experten geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an erfahrene KI-Forscher, Maschinelle Lern-Ingenieure sowie Entwickler, die DeepSeek LLM-Modelle feinabstimmen möchten, um spezialisierte Anwendungen für bestimmte Branchen, Bereiche oder Geschäftsziele zu entwickeln.
Nach Abschluss dieses Kurses werden die Teilnehmenden in der Lage sein:
- Die Architektur sowie Funktionalitäten der DeepSeek-Modelle – insbesondere von DeepSeek-R1 und DeepSeek-V3 – zu verstehen.
- Datensätze vorzubereiten und für das Feinabstimmen aufzuarbeiten.
- DeepSeek LLM auf Anwendungsbereiche aus bestimmten Domänen feinabzustimmen.
- Die nach dem Feinabstimmen erstellten Modelle effizient zu optimieren und bereitzustellen.
Feinabstimmung von Verteidigungs-KI für autonome Systeme und Überwachung
14 StundenDiese von erfahrenen Dozenten geleitete Live-Schulung in Deutschland (online oder vor Ort) richtet sich an fortgeschrittene Verteidigungs-KI-Ingenieure sowie Entwickler militärischer Technologien, die Deep-Learning-Modelle so feinabstimmen möchten, dass sie in autonomen Fahrzeugen, Drohnen und Überwachungssystemen eingesetzt werden können – dabei müssen außerdem strenge Sicherheits- und Zuverlässigkeitsanforderungen erfüllt werden.
Am Ende dieser Schulung werden die Teilnehmer in der Lage sein:
- Computer-Vision- und Sensor-Fusions-Modelle für Überwachungs- sowie Zielerkennungsaufgaben feinabzustimmen.
- Autonome KI-Systeme an wechselnde Umgebungen und Missionstypen anzupassen.
- Robuste Validierungs- sowie Sicherheitsmechanismen in Modellpipelines zu implementieren.
- Die Einhaltung verteidigungsspezifischer Compliance-, Sicherheits- und Qualitätsstandards sicherzustellen.
Feinabstimmung von KI-Modellen für den Rechtsbereich: Vertragsprüfung und juristische Recherche
14 StundenDieses von einem Dozenten geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an Juristisch-Technische Ingenieure sowie KI-Entwickler mittleren Niveaus, die Sprachmodelle für Aufgaben wie Vertragsanalyse, Extraktion rechtlicher Klauseln und automatisierte juristische Recherche im rechtsdienstlichen Umfeld feinabstimmen möchten.
Nach Abschluss dieses Trainings werden die Teilnehmer in der Lage sein:
- Rechtliche Dokumente für die Feinabstimmung von NLP-Modellen vorzubereiten und zu bereinigen.
- Strategien zur Feinabstimmung anzuwenden, um die Genauigkeit der Modelle bei rechtlichen Aufgaben zu erhöhen.
- Modelle einzusetzen, um bei der Vertragsprüfung, -klassifizierung sowie Recherche zu helfen.
- Die Konformität, Nachvollziehbarkeit und Überprüfbarkeit von KI-Ergebnissen im rechtlichen Kontext sicherzustellen.
Feinabstimmung großer Sprachmodelle mithilfe von QLoRA
14 StundenDieser von einem Trainer geleitete Live-Kurs in Deutschland (online oder vor Ort) richtet sich an Maschinenlern-Ingenieure, KI-Entwickler sowie Datenwissenschaftler mit mittlerem bis fortgeschrittenem Wissen, die lernen möchten, wie man QLoRA nutzt, um große Modelle gezielt für spezifische Aufgaben und Bedürfnisse zu optimieren.
Am Ende des Kurses werden die Teilnehmenden in der Lage sein:
- Die theoretischen Grundlagen von QLoRA sowie Quantisierungsverfahren für LLMs zu verstehen.
- QLoRA erfolgreich bei der Feinabstimmung großer Sprachmodelle für branchenspezifische Anwendungen einzusetzen.
- Die Leistung des Feinabstimmungsprozesses unter Verwendung von Quantisierung selbst auf begrenzten Rechenressourcen zu optimieren.
- Feinabgestimmte Modelle effizient in realen Anwendungen einzusetzen und zu bewerten.