Kontakt aufnehmen

Schulungsübersicht

Grundlagen sicherer und fairer KI

  • Zentrale Konzepte: Sicherheit, Verzerrungen, Fairness, Transparenz
  • Arten von Verzerrungen: Datensatzbedingte, darstellungsbedingte und algorithmische Verzerrungen
  • Überblick über relevante regulatorische Rahmenwerke (EU AI Act, DSGVO usw.)

Verzerrungen in feinabgestimmten Modellen

  • Wie Feinabstimmung Verzerrungen einführen oder verstärken kann
  • Fallstudien und reale Beispiele für Fehlfunktionen von Modellen
  • Methode zur Erkennung von Verzerrungen in Datensätzen sowie Modellausgaben

Methoden zur Minimierung von Verzerrungen

  • Strategien auf Datenebene (Ausgleichung, Erweiterung der Trainingsdaten)
  • Ansätze während des Trainingsprozesses (Regularisierung, adversariale Debiasing-Verfahren)
  • Post-Training-Methoden (Filterung von Ausgaben, Kalibrierung)

Modellsicherheit und Robustheit

  • Erkennung unsicherer oder schädlicher Modellausgaben
  • Umgang mit feindseligen Eingabedaten
  • Red-Teaming sowie Belastungstests für feinabgestimmte Modelle

Audit und Überwachung von KI-Systemen

  • Evaluationsmetriken zur Messung von Verzerrungen und Fairness (z. B. demografische Parität)
  • Werkzeuge zur Erklärbarkeit sowie Konzepte für Transparenz bei KI-Systemen
  • Laufende Überwachungs- und Governance-Praktiken für Modelle

Werkzeuge und praktische Übungen

  • Einsatz frei verfügbarer Bibliotheken (z. B. Fairlearn, Transformers, CheckList)
  • Praktische Aufgabe: Verzerrungen in einem feinabgestimmten Modell erkennen und reduzieren
  • Erstellung sicherer Ausgaben durch gezielte Prompt-Designs und Beschränkungen

Anwendungsbeispiele in der Praxis sowie Vorbereitung auf Compliance-Anforderungen

  • Best Practices für die Integration von Sicherheitsaspekten in Workflows mit LLMs
  • Dokumentation und Erstellung von Modellbeschreibungen für regulatorische Zwecke
  • Vorbereitung auf externe Audits sowie Qualitätsprüfungen

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Grundverständnis von Maschinenlernmodellen und deren Trainingsprozessen
  • Erfahrung im Feinabstimmen von Sprachmodellen sowie Arbeit mit LLMs
  • Kenntnisse in Python sowie Grundlagen der natürlichen Sprachverarbeitung

Zielgruppe

  • AI-Compliance-Teams
  • ML-Entwickler
 14 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Kommende Kurse

Verwandte Kategorien