Vielen Dank für die Zusendung Ihrer Anfrage! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Vielen Dank, dass Sie Ihre Buchung abgeschickt haben! Eines unserer Teammitglieder wird Sie in Kürze kontaktieren.
Schulungsübersicht
Grundlagen sicherer lokaler KI-Anwendungen
- Bedeutung von lokaler sowie vor-Ort-KI-Entwicklung in regulierten Umgebungen
- Unterschiede zwischen Cloud-basierter KI und interner Bereitstellung bei sensiblen Datenverarbeitungsaufgaben
- Häufige Geschäftsanwendungen für private Assistenten sowie Arbeitsabläufe zur Unterstützung von Prozessen
- Kernelemente einer sicheren lokalen KI-Architektur
Einführung in Ollama und offene Modelle
- Rolle von Ollama innerhalb einer lokalen Entwicklungsumgebung
- Herunterladen, Ausführen sowie Verwaltung von Modellen vor Ort
- Auswahl geeigneter Modelle unter Berücksichtigung von Größe, Qualität, Hardwareanforderungen und Lizenzbedingungen
- Abstimmung der Modelloptionen auf konkrete Geschäftsaufgaben
Vorbereitung der vor-Ort-Entwicklungsumgebung
- Bereitstellung von Host-Systemen, Workstations sowie Servern
- Installation und Konfiguration von Ollama für lokale Inferenzverarbeitungen
- Einsatz von Containern sowie internen Entwicklungswerkzeugen
- Überprüfung der API-Zugänglichkeit sowie Betriebsbereitschaft
Effektive Arbeit mit lokalen Modellen
- Ausgabeformulierung mithilfe von Systemanweisungen und Prompt-Management
- Wiederverwendung vorgefertigter Vorlagen für unternehmensinterne Aufgaben
- Verwaltung verschiedener Modellversionen sowie interner Artefakte
- Grundlegende Leistungsoptimierungen bei CPU- und GPU-Bereitstellungen
Entwicklung praktischer agentenbasierter Arbeitsabläufe
- Was ein Arbeitsablauf unter Beachtung von Kontrollmechanismen als „agentisch“ qualifiziert
- Einfache Konzepte zur Planung, Werkzeugnutzung sowie Reaktionslogik
- Gestaltung spezialisierter Assistenten für interne Betriebsprozesse
- Inklusion von menschlicher Überprüfung, Fehlerbehandlung und Ausweichstrategien
Datensuchende Arbeitsabläufe in geschützten Umgebungen
- Basisprinzipien zur Informationsbeschaffung mithilfe von Retrieval-Augmented Generation (RAG)
- Vorbereitung von Dokumenten für Aufteilung, Indexierung und Abfrageverarbeitung
- Einbindung einer lokalen Vektordatenbank in Ollama-basierte Anwendungen
- Verbesserung der Relevanz sowie Qualität von Antworten durch gezielte Suchalgorithmen
Sicherheits-, Governance- und Compliance-Maßnahmen
- Grenzen der Datennutzung und datenschutzrelevante Aspekte
- Zugriffssteuerung, Protokollierungsmechanismen sowie Audit-Unterstützung
- Sicherheit von Prompts, Kontrollmechanismen bei Ausgaben sowie Schutzvorkehrungen
- Evaluierung und Überwachungsschritte für den regulierten Betrieb
Integration in Geschäftsprozesse
- Bereitstellung lokaler KI-Funktionalitäten über interne APIs
- Einbindung der Assistenten in bestehende Anwendungen sowie Dienste des Unternehmens
- Unterstützung automatisierter Prozesse durch Assistenten, Batching- und Workflow-Lösungen
- Sicherstellung, dass sämtliche Komponenten innerhalb geschlossener Netzwerke bleiben
Evaluierung lokaler KI-Lösungen
- Bewertung von Qualität, Zuverlässigkeit sowie Konsistenz der Ergebnisse
- Überprüfung auf Übereinstimmung mit betrieblichen Zielen, Richtlinien und Sicherheitsstandards
- Vergleichende Analyse verschiedener Modelle für spezifische Geschäftsanwendungen
- Einrichtung eines praktikablen Verbesserungszyklus für interne Entwicklerteams
Praktisches Implementierungs-Labor
- Erstellung eines privaten Assistenten mittels Ollama und einem offenen Modell
- Anbindung der Informationssuche auf vertrauliche interne Dokumente
- Einführung einfacher agentischer Aktionen sowie Sicherheitsmechanismen
- Überprüfung aller Aspekte der Bereitstellung, Betriebsführung und Governance-Steuerungen
Einführungsplanung und nächste Schritte
- Rückblick auf wichtige Entscheidungen bezüglich Design und Bereitstellung
- Identifikation typischer Hürden bei KI-Projekten mit strengen regulatorischen Auflagen
- Ausarbeitung von Pilotprojekten sowie Abstimmung mit beteiligten Stakeholdern
- Erstellung einer Roadmap zur sicheren Einführung lokaler KI-Lösungen
Voraussetzungen
- Grundlegendes Verständnis von KI-Konzepten und Softwareentwicklung
- Bekanntheit mit Kommandozeilentools, Containern oder lokalen Entwicklungsumgebungen
- Erfahrung in der Erstellung einfacher Skripte oder Programmierkenntnisse
Zielgruppe
- Entwickler und technische Teams, die private KI-Lösungen auf internen Infrastrukturen entwickeln.
- Sicherheits-, Compliance- sowie Plattformverantwortliche, die KI in regulierten Bereichen unterstützen.
- Technische Entscheider aus Finanzwesen, Gesundheitswesen, Regierung und Verteidigung, die eine lokale KI-Einführung prüfen.
21 Stunden