Fortgeschrittene Masterclass zu KI-Agenten: Entwicklung, Sicherheit und Governance für Produktivsysteme Schulung

Tag 1

Struktur moderner KI-Agenten

Von Chatbots zu autonomen Systemen für logisches Denken und Handeln

Reaktive, proaktive, hybride sowie zielorientierte Agentenkonzepte

Grundlegende Komponenten: Wahrnehmung, Planung, Gedächtnis, Werkzeugnutzung und Handlung

Unterschiede zwischen Einzel- und Multi-Agenten-Konzepten

Frameworks für KI-Agenten – die moderne Technologielandschaft

LangChain, LlamaIndex, AutoGen, CrewAI – Vor- und Nachteile im Überblick

Vergleich mit klassischen Frameworks wie JADE und SPADE

Auswahl eines geeigneten Frameworks unter Berücksichtigung produktiver Anforderungen

Werkzeugaufruf, Funktionen zur Implementierung strukturierter Ausgaben

Praxis: Erstellung eines einfachen Python-Agenten mit Werkzeugintegration

Architekturen von Multi-Agenten-Systemen

Zentralisierte, dezentrale sowie hybride Konzepte für Multi-Agenten-Systeme

FIPA ACL, Nachrichtenaustausch und moderne Alternativen

Koordinationsmechanismen: Planung, Verhandlung, Synchronisation

Entstehendes Verhalten und Selbstorganisation in Agentenpopulationen

Entscheidungsfindung und Lernverhalten von KI-Agenten

Spieltheorie bei kooperativen sowie konkurrierenden Interaktionen der Agenten

Reinforcement Learning in Umgebungen mit mehreren Agenten

Transferlernen und Wissensaustausch zwischen Agenten

Auflösung von Konflikten sowie Aufbau von Vertrauen bei koordinierten Agenten

Tag 2

Mehrmodale Grundlagen für KI-Agenten

Multimodale KI als integrierter Workflow in Text-, Bild-, Sprach- und Videoverarbeitung

Führende mehrmodale Modelle: GPT-4 Vision, Gemini, Claude, Whisper

Verfahren zur Verbindung verschiedener Modi im logischen Ablauf eines Agenten

Auswirkungen von Latenzzeit, Kosten und Genauigkeit bei mehrmodalen Systemen

Aufbau der Wahrnehmungsebene

Bildverarbeitung für KI-Agenten: Klassifizierung, Beschreibung, Objekterkennung

Spracherkennung mittels Whisper ASR und Echtzeittranskription

Stimmsynthese für natürliche Interaktionen in Sprachform

Verknüpfung von sensorischen Daten mit logischer Verarbeitung im LLM sowie Werkzeugauswahl

Praxis – Erstellung eines mehrmodalen KI-Agenten in Python

Festlegung der Aufgaben, Kontextfensterbreite und verfügbarer Werkzeuge für den Agenten

End-to-End-Verbindung der GPT-4 Vision- sowie Whisper-APIs

Implementierung von Gedächtnis-, Zustands- und Konversationsfunktionen

Sichere Nutzung von Werkzeugaufrufen mit nachgelagerten Auswirkungen in der Realität

Praxis – Steuerung eines Multi-Agenten-Systems

Zusammenstellung spezialisierter Agenten mittels AutoGen oder CrewAI

Definition von Rollen, Verantwortlichkeiten sowie Kommunikationsprotokollen zwischen den Agenten

Ressourcenallokation und Koordination innerhalb einer simulierten Umgebung

Protokollierung der Entscheidungsfindungen, Werkzeugaufrufe sowie Handlungen für Audits und Analysezwecke

Tag 3

Gefahrenpotenzial produktiver KI-Agenten

Warum KI-Agenten gegenüber herkömmlicher Software besonderen Angriffsrisiken ausgesetzt sind

Risikopotenziale: Daten-, Modell-, Prompt-, Werkzeug-, Ausgabe- sowie Schnittstellenaspekte

Gefährdungsanalyse bei Agenten-Systemen mit autonomer Werkzeugnutzung

Vergleich von Sicherheitsstrategien für KI mit klassischen IT-Schutzmaßnahmen

Praxis – Durchführung von Angriffstests

Adversariale Beispiele und Störverfahren: FGSM, PGD, DeepFool

Unterschiede zwischen „White-Box“- und „Black-Box“-Szenarien bei Angriffen

Modellumkehrung sowie Methoden zur Ableitung von Mitgliedschaftsinformationen aus Modellen

Datenvergiftung sowie Einbringung versteckter Funktionen während des Trainingsprozesses

Einflussnahme durch Prompt Injection, „Jailbreaking“-Verfahren sowie missbräuchliche Werkzeugnutzung bei LLM-Agenten

Schutzmaßnahmen und Verbesserung der Systemrobustheit

Praktiken zur Verstärkung durch Angriffsmethodik sowie Datenerweiterungsverfahren

Methode des „Defensive Distillation“ sowie weitere Ansätze für mehr Robustheit

Vorbehandlung von Eingaben, Maskierung von Gradienten und Regulierungsmaßnahmen

Praktiken zur Gewährleistung der Datenschutzkonformität wie Differenzielle Privatsphäre sowie zielgerichtete Rauscheinjektion

Federated Learning und sichere Aggregationsmechanismen für verteiltes Training

Praxis – Arbeit mit dem Adversarial Robustness Toolbox

Simulation von Angriffen gegen den im zweiten Tag erstellten mehrmodalen KI-Agenten

Messung der Robustheit unter Störungsbedingungen sowie Bestimmung der Schadauswirkungen

Schrittweises Anwenden von Verteidigungsstrategien und erneute Auswertung der Erfolgsquoten bei Angriffen

Belastungstests an Werkzeugaufruf-Methodik sowie Möglichkeiten zur Manipulation durch Prompt Injection

Tag 4

Rahmenwerke für das Risikomanagement von KI

NIST AI Risk Management Framework: Regulierung, Modellierung, Messung und Verwaltung von Risiken

ISO/IEC 42001 sowie neuere Normen spezifisch für den Bereich KI

Integration KI-relevanter Risikokriterien in bestehende Unternehmens-GRC-Infrastrukturen

Anforderungen an Transparenz, Verantwortlichkeit sowie Dokumentation von KI-Systemen

Regulatorische Anforderungen für Multi-Agenten-Konzepte

EU AI Act: Einteilung in Risikokategorien, verbotene Anwendungsformen sowie Pflichten bei Hochrisiko-Systemen

Auswirkungen der DSGVO und des CCPA auf Datenverarbeitungsprozesse durch KI-Agenten

Inhaltlicher Umfang des US-amerikanischen Executive Orders zu verantwortungsvoller, sicherer und vertrauenswürdiger KI-Nutzung

Branchenspezifische Leitlinien für Finanz-, Gesundheits- sowie öffentliche Sektoren

Umgang mit Drittanbieter-Risiken bei der Nutzung von KI-Tools und deren Integration

Ethik, Bias-Ausprägung und Erklärbarkeit von KI-Agenten

Ermittlung sowie Reduktion von Bias in Wahrnehmungs- und Denkprozessen der Agenten

Bedeutung erklärbarer Verhaltensweisen als Sicherheitsmerkmal von KI-Systemen

Vermeidung schädlicher Auswirkungen sowie Umsetzung verantwortungsvoller Implementierungstrategien

Gestaltung von ethisch vertretbaren, nachvollziehbaren Agentenverhaltensweisen

Produktionsumgebung – Deployment, Monitoring und Reaktion auf Vorfälle

Sichere Implementierungsstrategien für Einzel- sowie Multi-Agenten-Systeme

Durchgängige Überwachung auf Driftphänomene, Anomalien oder missbräuchliche Nutzung

Protokollierung von Ereignissen sowie Bereithaltung umfassender Dokumentationen zu Agententätigkeiten für forensische Untersuchungen

Richtlinien zur schnellen Reaktion auf IT-Sicherheitsvorfälle im Zusammenhang mit KI und Mechanismen der Wiederherstellung nach Störungen

Fallstudien realer Sicherheitsverstöße mittels KI sowie daraus abgeleitete Erkenntnisse

Abschluss – Zusammenfassung und Ausblick

Rückblick auf den während des Kurses erstellten mehrmodalen Multi-Agenten-Systemeaufbau

Gesamtüberprüfung der gesamten Entwicklungskette: Design, Aufbau, Absicherung, Governance und Deployment

Selbstauswertung des entwickelten Systems im Hinblick auf die Kriterien des NIST AI RMF

Ausblick auf zukünftige Entwicklungen im Bereich agentenbasierter KI sowie deren Sicherheitsaspekte

Zusammenfassung und weitere Schritte