Kontakt aufnehmen

Schulungsübersicht

Einführung in Ollama zur Bereitstellung von LLMs

  • Überblick über die Funktionen von Ollama
  • Vorteile der lokalen Bereitstellung von KI-Modellen
  • Vergleich mit cloudbasierten Hosting-Lösungen für KI

Einrichtung der Bereitstellungsumgebung

  • Installation von Ollama sowie notwendigen Abhängigkeiten
  • Konfiguration von Hardware und GPU-Beschleunigung
  • Dokumentierung von Ollama zur Erstellung skalierbarer Deployment-Umgebungen

Bereitstellung von LLMs mit Ollama

  • Laden und Verwalten von KI-Modellen
  • Bereitstellung von Llama 3, DeepSeek, Mistral sowie weiteren Modellen
  • Erstellung von APIs und Endpunkten zur Nutzung der KI-Modelle

Optimierung der LLM-Leistung

  • Feinabstimmung der Modelle zur Verbesserung ihrer Effizienz
  • Verringerung der Verzögerungen und Steigerung der Reaktionsgeschwindigkeit
  • Gewissenhafte Verwaltung von Speicher- und Ressourcenallokationen

Integration von Ollama in KI-Arbeitsabläufe

  • Verknüpfung von Ollama mit Anwendungen und Diensten
  • Automatisierung künstlich-intelligenter Prozesse
  • Einsatz von Ollama in Edge-Computing-Umgebungen

Überwachung und Wartung

  • Leistungsverfolgung sowie Fehlerbehebung bei Problemen
  • Aktualisierung und Verwaltung von KI-Modellen
  • Gewährleistung von Sicherheit und Compliance bei der KI-Bereitstellung

Skalierung von KI-Modell-Bereitstellungen

  • Beste Praktiken zur Handhabung hoher Arbeitslasten
  • Skalierbarkeit von Ollama für unternehmensweite Anwendungsfälle
  • Zukünftige Entwicklungen im Bereich der lokalen KI-Modell-Bereitstellung

Zusammenfassung und weitere Schritte

Voraussetzungen

  • Grundkenntnisse im Bereich maschinelles Lernen und KI-Modelle
  • Vertrautheit mit Befehlszeilenschnittstellen und Skripting
  • Verständnis von Bereitstellungsumgebungen – lokal, an der Edge oder in der Cloud

Zielgruppe

  • KI-Ingenieure, die lokale sowie cloudbasierte KI-Systeme optimieren möchten
  • ML-Experten, die LLMs bereitstellen und feinabstimmen müssen
  • DevOps-Fachkräfte, die für die Integration von KI-Modellen verantwortlich sind
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien