Kontakt aufnehmen

Schulungsübersicht

Grundlagen sicherer lokaler KI-Anwendungen

  • Bedeutung von lokaler sowie vor-Ort-KI-Entwicklung in regulierten Umgebungen
  • Unterschiede zwischen Cloud-basierter KI und interner Bereitstellung bei sensiblen Datenverarbeitungsaufgaben
  • Häufige Geschäftsanwendungen für private Assistenten sowie Arbeitsabläufe zur Unterstützung von Prozessen
  • Kernelemente einer sicheren lokalen KI-Architektur

Einführung in Ollama und offene Modelle

  • Rolle von Ollama innerhalb einer lokalen Entwicklungsumgebung
  • Herunterladen, Ausführen sowie Verwaltung von Modellen vor Ort
  • Auswahl geeigneter Modelle unter Berücksichtigung von Größe, Qualität, Hardwareanforderungen und Lizenzbedingungen
  • Abstimmung der Modelloptionen auf konkrete Geschäftsaufgaben

Vorbereitung der vor-Ort-Entwicklungsumgebung

  • Bereitstellung von Host-Systemen, Workstations sowie Servern
  • Installation und Konfiguration von Ollama für lokale Inferenzverarbeitungen
  • Einsatz von Containern sowie internen Entwicklungswerkzeugen
  • Überprüfung der API-Zugänglichkeit sowie Betriebsbereitschaft

Effektive Arbeit mit lokalen Modellen

  • Ausgabeformulierung mithilfe von Systemanweisungen und Prompt-Management
  • Wiederverwendung vorgefertigter Vorlagen für unternehmensinterne Aufgaben
  • Verwaltung verschiedener Modellversionen sowie interner Artefakte
  • Grundlegende Leistungsoptimierungen bei CPU- und GPU-Bereitstellungen

Entwicklung praktischer agentenbasierter Arbeitsabläufe

  • Was ein Arbeitsablauf unter Beachtung von Kontrollmechanismen als „agentisch“ qualifiziert
  • Einfache Konzepte zur Planung, Werkzeugnutzung sowie Reaktionslogik
  • Gestaltung spezialisierter Assistenten für interne Betriebsprozesse
  • Inklusion von menschlicher Überprüfung, Fehlerbehandlung und Ausweichstrategien

Datensuchende Arbeitsabläufe in geschützten Umgebungen

  • Basisprinzipien zur Informationsbeschaffung mithilfe von Retrieval-Augmented Generation (RAG)
  • Vorbereitung von Dokumenten für Aufteilung, Indexierung und Abfrageverarbeitung
  • Einbindung einer lokalen Vektordatenbank in Ollama-basierte Anwendungen
  • Verbesserung der Relevanz sowie Qualität von Antworten durch gezielte Suchalgorithmen

Sicherheits-, Governance- und Compliance-Maßnahmen

  • Grenzen der Datennutzung und datenschutzrelevante Aspekte
  • Zugriffssteuerung, Protokollierungsmechanismen sowie Audit-Unterstützung
  • Sicherheit von Prompts, Kontrollmechanismen bei Ausgaben sowie Schutzvorkehrungen
  • Evaluierung und Überwachungsschritte für den regulierten Betrieb

Integration in Geschäftsprozesse

  • Bereitstellung lokaler KI-Funktionalitäten über interne APIs
  • Einbindung der Assistenten in bestehende Anwendungen sowie Dienste des Unternehmens
  • Unterstützung automatisierter Prozesse durch Assistenten, Batching- und Workflow-Lösungen
  • Sicherstellung, dass sämtliche Komponenten innerhalb geschlossener Netzwerke bleiben

Evaluierung lokaler KI-Lösungen

  • Bewertung von Qualität, Zuverlässigkeit sowie Konsistenz der Ergebnisse
  • Überprüfung auf Übereinstimmung mit betrieblichen Zielen, Richtlinien und Sicherheitsstandards
  • Vergleichende Analyse verschiedener Modelle für spezifische Geschäftsanwendungen
  • Einrichtung eines praktikablen Verbesserungszyklus für interne Entwicklerteams

Praktisches Implementierungs-Labor

  • Erstellung eines privaten Assistenten mittels Ollama und einem offenen Modell
  • Anbindung der Informationssuche auf vertrauliche interne Dokumente
  • Einführung einfacher agentischer Aktionen sowie Sicherheitsmechanismen
  • Überprüfung aller Aspekte der Bereitstellung, Betriebsführung und Governance-Steuerungen

Einführungsplanung und nächste Schritte

  • Rückblick auf wichtige Entscheidungen bezüglich Design und Bereitstellung
  • Identifikation typischer Hürden bei KI-Projekten mit strengen regulatorischen Auflagen
  • Ausarbeitung von Pilotprojekten sowie Abstimmung mit beteiligten Stakeholdern
  • Erstellung einer Roadmap zur sicheren Einführung lokaler KI-Lösungen

Voraussetzungen

  • Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
  • Bekanntheit mit Kommandozeilentools, Containern oder lokalen Entwicklungsumgebungen
  • Erfahrung in der Erstellung einfacher Skripte oder Programmierkenntnisse

Zielgruppe

  • Entwickler und technische Teams, die private KI-Lösungen auf internen Infrastrukturen entwickeln.
  • Sicherheits-, Compliance- sowie Plattformverantwortliche, die KI in regulierten Bereichen unterstützen.
  • Technische Entscheider aus Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die eine lokale KI-Einführung prüfen.
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien