Bereitstellung und Optimierung von LLMs mit Ollama Schulung
Ollama bietet einen effizienten Weg zur lokalen oder produktiven Bereitstellung und Ausführung großer Sprachmodelle (LLMs) und ermöglicht Kontrolle über Leistung, Kosten und Sicherheit.
Dieser von Dozenten geleitete, lebende Training (online oder vor Ort) richtet sich an Fachkräfte auf mittlerem Niveau, die LLMs mit Ollama bereitstellen, optimieren und integrieren möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- LLMs mit Ollama einzurichten und bereitzustellen.
- AI-Modelle für Leistung und Effizienz zu optimieren.
- GPU-Beschleunigung für verbesserte Inferenzgeschwindigkeiten zu nutzen.
- Ollama in Arbeitsabläufe und Anwendungen zu integrieren.
- Die Leistung von AI-Modellen über die Zeit zu überwachen und zu warten.
Format des Kurses
- Interaktive Vorlesung und Diskussion.
- Viele Übungen und Praktiken.
- Hands-on Implementierung in einer Live-Laborumgebung.
Maßanfertigungsoptionen des Kurses
- Um eine angepasste Schulung für diesen Kurs anzufordern, kontaktieren Sie uns bitte zur Vereinbarung.
Schulungsübersicht
Einführung in Ollama für LLM-Bereitstellung
- Übersicht der Fähigkeiten von Ollama
- Vorteile der lokalen AI-Modell-Bereitstellung
- Vergleich mit cloudbasierten AI-Hosting-Lösungen
Einrichtung der Bereitstellungsumgebung
- Installation von Ollama und erforderlichen Abhängigkeiten
- Konfiguration von Hardware und GPU-Beschleunigung
- Dockerisieren von Ollama für skalierbare Bereitstellungen
Bereitstellung von LLMs mit Ollama
- Laden und Verwalten von AI-Modellen
- Bereitstellung von Llama 3, DeepSeek, Mistral und anderen Modellen
- Erstellung von APIs und Endpoints für den Zugriff auf AI-Modelle
Optimierung der LLM-Leistung
- Fine-Tuning von Modellen für Effizienz
- Reduzierung der Latenz und Verbesserung der Antwortzeiten
- Verwaltung des Speichers und der Ressourcenverteilung
Integration von Ollama in AI-Arbeitsabläufe
- Verbindung von Ollama mit Anwendungen und Diensten
- Automatisierung von AI-gesteuerten Prozessen
- Nutzung von Ollama in Edge-Computing-Umgebungen
Überwachung und Wartung
- Verfolgung der Leistung und Fehlerbehebung
- Aktualisierung und Verwaltung von AI-Modellen
- Sicherstellung von Sicherheit und Compliance bei AI-Bereitstellungen
Skalierung von AI-Modell-Bereitstellungen
- Best Practices für die Handhabung hoher Lasten
- Skalierung von Ollama für Unternehmensanwendungsfälle
- Zukünftige Entwicklungen in der lokalen AI-Modell-Bereitstellung
Zusammenfassung und nächste Schritte
Voraussetzungen
- Grundlegende Erfahrung mit Machine Learning und AI-Modellen
- Vertrautheit mit Kommandozeilenschnittstellen und Skripting
- Verständnis von Bereitstellumgebung (lokal, Edge, Cloud)
Zielgruppe
- AI-Ingenieure, die lokale und cloudbasierte AI-Bereitstellungen optimieren
- ML-Praktiker, die LLMs bereitstellen und feinabstimmen
- DevOps-Spezialisten, die die Integration von AI-Modellen verwalten
Offene Schulungskurse erfordern mindestens 5 Teilnehmer.
Bereitstellung und Optimierung von LLMs mit Ollama Schulung - Buchung
Bereitstellung und Optimierung von LLMs mit Ollama Schulung - Anfrage
Bereitstellung und Optimierung von LLMs mit Ollama - Beratungsanfrage
Kommende Kurse
Kombinierte Kurse
Fortgeschrittenes Debuggen und Bewerten von Ollama-Modellen
35 StundenDieser vertiefende Kurs zum fortgeschrittenen Debuggen und Bewerten von Ollama-Modellen vermittelt bewährte Methoden zur Diagnose, Prüfung sowie Messung des Verhaltens von Modellen in lokalen oder privaten Ollama-Umgebungen.
Das von erfahrenen Instruktoren geleitete Live-Training – online oder vor Ort – richtet sich an fortgeschrittene KI-Entwickler, ML-Ops-Spezialisten sowie Qualitätssicherungsexperten, die sicherstellen möchten, dass Ollama-basierte Modelle in Produktionsumgebungen zuverlässig funktionieren und hochwertige Ergebnisse liefern.
Am Ende des Kurses werden die Teilnehmenden folgende Fähigkeiten erlangen:
- Systematisches Debuggen von auf Ollama betriebenen Modellen sowie zuverlässige Reproduktion fehlerhafter Verhaltensweisen.
- Entwurf und Ausführung robuster Bewertungsprozesse mittels quantitativer und qualitativer Metriken.
- Einführung von Beobachtbarkeitstechniken wie Protokollierung, Verfolgung sowie Monitoring zur Überwachung des Modellzustands und etwaiger Abweichungen.
- Automatisierung von Tests, Validierungen und Regressionsprüfungen in CI/CD-Pipelines.
Ablauf des Kurses
- Interaktive Vorlesungen sowie offene Diskussionen.
- Praktische Übungen und Debugging-Aufgaben unter Einsatz von Ollama-Installationen.
- Fallstudien, gemeinsame Fehleranalyse-Sessions sowie Workshops zur Automatisierung.
Möglichkeiten zur Kursanpassung
- Falls Sie ein individuell angepasstes Training wünschen, kontaktieren Sie uns bitte, um die Details zu besprechen.
Erstellung privater KI-Workflows mit Ollama
14 StundenDieses von einem Trainer geleitete Live-Training in Deutschland – online oder vor Ort – richtet sich an Fachkräfte auf fortgeschrittenem Niveau, die sichere und effiziente KI-gestützte Workflows mithilfe von Ollama umsetzen möchten.
Nach Abschluss des Trainings werden die Teilnehmer in der Lage sein:
- Ollama zur Verarbeitung von KI-Aufgaben im privaten Umfeld einzurichten und zu konfigurieren.
- KI-Modelle in sichere Unternehmens-Workflows zu integrieren.
- Die Leistung der KI zu optimieren, ohne dabei die Datenschutzanforderungen aus den Augen zu verlieren.
- Geschäftsprozesse mithilfe lokaler KI-Funktionen zu automatisieren.
- Die Einhaltung von Sicherheits- und Governance-Richtlinien im Unternehmen sicherzustellen.
Feinabstimmung und Anpassung von KI-Modellen auf Ollama
14 StundenDieses von einem Trainer geleitete Live-Training in Deutschland (online oder vor Ort) richtet sich an erfahrene Fachkräfte, die KI-Modelle mit Ollama feinabstimmen und für konkrete Anwendungen optimieren möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein zu:
- Eine effiziente Umgebung zur Feinabstimmung von KI-Modelle auf Ollama einzurichten.
- Datensätze für das überwachte Feintuning sowie den Einsatz der Verstärkungslern-Technik vorzubereiten.
- KI-Modelle hinsichtlich Leistung, Genauigkeit und Effizienz zu optimieren.
- Individuell angepasste Modelle in Produktionsumgebungen einzusetzen.
- Verbesserungen der Modelle zu bewerten sowie deren Zuverlässigkeit sicherzustellen.
Multimodale Anwendungen mit Ollama
21 StundenOllama ist eine Plattform, die es ermöglicht, große Sprach- und multimodale Modelle lokal auszuführen sowie zu feinabzustimmen.
Dieses von einem Instruktor geleitete Live-Training (online oder vor Ort) richtet sich an Machine-Learning-Ingenieure, KI-Forscher sowie Produktentwickler auf fortgeschrittenem Niveau, die multimodale Anwendungen mit Ollama entwickeln und einsetzen möchten.
Am Ende des Trainings werden die Teilnehmer in der Lage sein zu:
- Multimodale Modelle unter Verwendung von Ollama einzurichten und auszuführen.
- Text-, Bild- sowie Audiodaten in praxisnahen Anwendungen zu integrieren.
- Dokumentenverarbeitungssysteme sowie visuelle Frage-Antwort-Lösungen zu entwickeln.
- Multimodale Agenten zu erstellen, die über verschiedene Modalitäten hinweg logisch denken können.
Ablauf des Kurses
- Interaktive Vorlesungen und Diskussionen.
- Praktische Übungen mit realen multimodalen Datensätzen.
- Direkte Umsetzung von multimodalen Datenpipelines mithilfe von Ollama in einem Live-Labor.
Individuelle Anpassungsmöglichkeiten des Kurses
- Für eine auf Ihre Bedürfnisse zugeschnittene Schulung kontaktieren Sie uns bitte, um weitere Details zu besprechen.
Erste Schritte mit Ollama: Lokale KI-Modelle ausführen
7 StundenDieses von einem Trainer geleitete Live-Training in Deutschland – online oder vor Ort – richtet sich an Einsteiger, die Ollama installieren, konfigurieren und zur Ausführung von KI-Modellen auf ihren lokalen Systemen nutzen möchten.
Am Ende dieses Trainings werden die Teilnehmer in der Lage sein:
- Die Grundlagen von Ollama sowie seine Funktionen zu verstehen.
- Ollama so einzurichten, dass lokale KI-Modelle ausgeführt werden können.
- LLMs mithilfe von Ollama bereitzustellen und damit zu interagieren.
- Die Leistung sowie die Ressourcennutzung bei KI-Arbeiten zu optimieren.
- Anwendungsfälle für lokale KI-Einsätze in verschiedenen Branchen zu erkunden.
Ollama und Datenschutz: Sichere Implementierungsstrategien
14 StundenOllama ist eine Plattform, die es ermöglicht, große Sprach- sowie multimodale Modelle lokal auszuführen und dabei sichere Deployments zu realisieren.
Dieses von einem Instruktor geleitete Live-Training – online oder vor Ort – richtet sich an Fachkräfte mittlerer Erfahrung, die Ollama unter Beachtung strenger Datenschutz- und Compliance-Richtlinien implementieren möchten.
Am Ende dieses Trainings werden die Teilnehmenden folgendes vermögen:
- Ollama sicher in containerisierten sowie on-premises-Umgebungen einrichten.
- Differential-Privacy-Techniken anwenden, um sensible Daten zu schützen.
- Sichere Logging-, Überwachungs- und Audit-Prozesse implementieren.
- Datenzugriffskontrollen gemäß gesetzlichen Vorgaben durchsetzen.
Ablauf des Kurses
- Interaktive Vorlesungen und Diskussionen.
- Praktische Übungen zu sicheren Implementierungsmethoden.
- Fallstudien sowie praxisnahe Aufgaben mit Fokus auf Compliance.
Möglichkeiten zur Kursanpassung
- Für eine individuell angepasste Schulung zu diesem Thema wenden Sie sich bitte an uns, damit wir alles koordinieren können.
Ollama-Anwendungen im Finanzwesen
14 StundenOllama ist eine leichtgewichtige Plattform zur lokalen Ausführung großer Sprachmodelle.
Dieses von einem Experten geleitete Live-Training (online oder vor Ort) richtet sich an Finanzfachkräfte und IT-Mitarbeiter mittleren Kenntnisstands, die Ollama-basierte KI-Lösungen in ihrem finanziellen Arbeitsumfeld implementieren, anpassen und betreiben möchten.
Nach Abschluss dieses Trainings verfügen die Teilnehmer über die notwendigen Fähigkeiten, um:
- Ollama sicher in finanziellen Prozessen einzurichten und zu konfigurieren.
- Lokale LLMs in analytische Prozesse sowie Berichtssysteme zu integrieren.
- Modelle auf die spezifischen Begriffe und Aufgaben des Finanzwesens abzustimmen.
- Sicherheits-, Datenschutz- und Compliance-Maßnahmen korrekt anzuwenden.
Ablauf des Kurses
- Interaktive Vorlesungen und Diskussionen.
- Praktische Übungen mit Finanzdaten.
- Umsetzung finanzspezifischer Szenarien in Live-Labors.
Individuelle Anpassungsmöglichkeiten des Kurses
- Für eine auf Ihre Bedürfnisse zugeschnittene Ausbildung kontaktieren Sie uns bitte, um die Details zu besprechen.
Ollama-Anwendungen im Gesundheitswesen
14 StundenOllama ist eine leichtgewichtige Plattform zur lokalen Ausführung großer Sprachmodelle.
Dieses von einem Trainer geleitete Live-Training (online oder vor Ort) richtet sich an medizinisches Fachpersonal sowie IT-Teams mittleren Kenntnisstands, die Ollama-basierte KI-Lösungen in klinischen und administrativen Bereichen des Gesundheitswesens einführen, anpassen und betreiben möchten.
Nach Abschluss dieses Trainings werden die Teilnehmenden folgende Fähigkeiten besitzen:
- Ollama sicher in gesundheitlichen Umgebungen installieren und konfigurieren.
- Lokale LLMs in klinische Arbeitsabläufe sowie Verwaltungsprozesse integrieren.
- Modelle für fachsprachliche Begriffe und spezifische Aufgaben im Gesundheitswesen anpassen.
- Bewährte Praktiken zum Datenschutz, zur Sicherheit sowie zur Einhaltung gesetzlicher Vorgaben anwenden.
Aufbau des Kurses
- Interaktive Vorlesungen und Diskussionen.
- Praktische Demonstrationen sowie angeleitete Übungen.
- Konkrete Implementierungsbeispiele in einer isolierten Simulationsumgebung für das Gesundheitswesen.
Möglichkeiten zur Kursanpassung
- Falls Sie ein individuell angepasstes Training wünschen, kontaktieren Sie uns bitte, um die Details zu besprechen.
Ollama: Selbstgehostete Großsprachmodelle als Alternative zu OpenAI- und Claude-APIs
14 StundenOllama ist ein Open-Source-Werkzeug zur lokalen Ausführung großer Sprachmodelle auf Endgeräten und Unternehmensservern. Es bündelt die Quantisierung, GPU-Zuweisung sowie API-Verwaltung in einer zentralen Kommandozeilenschnittstelle, sodass Firmen LLMs wie Llama, Mistral oder Qwen selbst betreiben können – ohne Daten an OpenAI, Anthropic oder Google zu übermitteln.
Ollama für verantwortungsvolle KI und Governance
14 StundenOllama ist eine Plattform, mit der große Sprach- und Multimodalmodelle lokal ausgeführt werden können – sie unterstützt dabei die Einhaltung von Governance-Vorgaben sowie verantwortungsvoller KI-Praktiken.
Dieses von einem Instruktor geleitete Live-Training (online oder vor Ort) richtet sich an Fachkräfte mittleren und fortgeschrittenen Niveaus, die Fairness, Transparenz und Verantwortungsbewusstsein in Anwendungen einführen möchten, die auf Ollama basieren.
Am Ende dieses Trainings werden die Teilnehmenden in der Lage sein zu:
- Verantwortungsvolle KI-Prinzipien bei der Nutzung von Ollama umzusetzen.
- Inhaltsfilterungen sowie Strategien zur Verringerung von Bias zu implementieren.
- Governance-Prozesse für die Ausrichtung und Nachvollziehbarkeit der KI-Entscheidungen zu entwerfen.
- Überwachungs- und Berichtsmechanismen zur Einhaltung regulatorischer Vorgaben einzurichten.
Ablauf des Kurses
- Interaktive Vorlesungen und Diskussionen.
- Praktische Übungen zum Entwurf von Governance-Prozessen.
- Fallstudien sowie Übungen mit Fokus auf Compliance-Anforderungen.
Möglichkeiten zur Kursanpassung
- Für eine individuelle Anpassung des Trainings wenden Sie sich bitte an uns, um die Details zu vereinbaren.
Ollama: Skalierung und Optimierung der Infrastruktur
21 StundenOllama ist eine Plattform zum Ausführen großer Sprach- sowie Multimodalmodelle lokal und skalierbar.
Dieses von einem Trainer geleitete Live-Training (online oder vor Ort) richtet sich an Entwickler mittleren bis fortgeschrittenen Niveaus, die ihre Ollama-Installationen für Umgebungen mit mehreren Nutzern, hohem Durchsatz und wirtschaftlicher Effizienz skalieren möchten.
Nach Abschluss dieses Kurses werden die Teilnehmer in der Lage sein:
- Ollama für mehrere Nutzer sowie verteilte Arbeitslasten zu konfigurieren.
- Die Zuweisung von GPU- und CPU-Ressourcen zu optimieren.
- Strategien zur automatischen Skalierung, Bündelung von Anfragen sowie Verringerung der Latenz umzusetzen.
- Die Infrastruktur hinsichtlich Leistungsfähigkeit und Kosteneffizienz zu überwachen und zu optimieren.
Ablauf des Kurses
- Interaktive Vorlesungen sowie Diskussionen.
- Praktische Übungen zur Implementierung und Skalierung von Ollama.
- Echte Optimierungsaufgaben in Live-Umgebungen.
Individuelle Anpassung des Kurses
- Falls Sie ein auf Ihre Bedürfnisse zugeschnittenes Training wünschen, kontaktieren Sie uns bitte zur Absprache.
Meisterung der Prompt-Engineering-Techniken mit Ollama
14 StundenOllama ist eine Plattform, die es ermöglicht, große Sprachmodelle sowie Multimodal-Modelle lokal auszuführen.
Dieses von einem Trainer geleitete Live-Training (online oder vor Ort) richtet sich an Anwender mittlerer Erfahrung, die durch gezielte Prompt-Engineering-Techniken optimierte Ergebnisse mit Ollama erzielen möchten.
Nach Abschluss dieses Kurses werden die Teilnehmenden folgendes beherrschen:
- Das Erstellen effektiver Prompts für unterschiedliche Anwendungsfälle.
- Die Anwendung von Techniken wie Priming sowie der Strukturierung logischer Denkprozesse.
- Die Umsetzung von Prompt-Vorlagen sowie Strategien zur Kontextverwaltung.
- Das Aufbauen mehrstufiger Prompt-Pipelines für komplexe Arbeitsabläufe.
Ablauf des Kurses
- Interaktive Vorträge und Diskussionen.
- Praktische Übungen zum Entwerfen von Prompts.
- Umsetzung in der Praxis innerhalb einer Live-Lab-Umgebung.
Individuelle Anpassungen des Kurses
- Für individuell angepasste Schulungen zu diesem Thema wenden Sie sich bitte an uns, damit wir alles organisieren können.