Kontakt aufnehmen

Schulungsübersicht

Grundlagen von NiFi und Data Flow

  • Daten in Bewegung vs. Daten im Ruhezustand: Konzepte und Herausforderungen
  • NiFi-Architektur: Cores, Flow Controller, Provenance und Bulletin
  • Wichtige Komponenten: Prozessoren, Verbindungen, Controller und Provenance

Big-Data-Kontext und Integration

  • Rolle von NiFi in Big-Data-Ökosystemen (Hadoop, Kafka, Cloud-Speicher)
  • Überblick über HDFS, MapReduce und moderne Alternativen
  • Anwendungsfälle: Streaming-Eingabe, Log-Versand, Ereignispipelines

Installation, Konfiguration & Cluster-Einrichtung

  • Installation von NiFi im Einzelknoten- und Clustermodus
  • Clusterkonfiguration: Knotenrollen, Zookeeper und Lastverteilung
  • Orchestrierung von NiFi-Bereitstellungen: Verwendung von Ansible, Docker oder Helm

Entwurf und Verwaltung von Datenflüssen

  • Routing, Filterung, Aufteilung und Zusammenführung von Flows
  • Konfiguration von Prozessoren (InvokeHTTP, QueryRecord, PutDatabaseRecord usw.)
  • Verarbeitung von Schemas, Anreicherung und Transformationsoperationen
  • Fehlerbehandlung, Wiederholungsbeziehungen und Backpressure

Integrationsszenarien

  • Anbindung an Datenbanken, Messaging-Systeme und REST-APIs
  • Streaming an Analytik-Systeme: Kafka, Elasticsearch oder Cloud-Speicher
  • Integration mit Splunk, Prometheus oder Logging-Pipelines

Überwachung, Wiederherstellung & Provenance

  • Nutzung von NiFi-UI, Metriken und Provenance-Visualizer
  • Entwurf autonomer Wiederherstellung und behutsamer Fehlerbehandlung
  • Backup, Flow-Versionierung und Änderungsmanagement

Performance-Tuning & Optimierung

  • Tuning von JVM, Heap, Thread-Pools und Cluster-Parametern
  • Optimierung des Flow-Entwurfs zur Reduzierung von Engpässen
  • Ressourcenisolierung, Flow-Priorisierung und Durchsatzkontrolle

Best Practices & Governance

  • Flow-Dokumentation, Benennungsstandards, modulare Gestaltung
  • Sicherheit: TLS, Authentifizierung, Zugriffskontrolle, Datenverschlüsselung
  • Änderungskontrolle, Versionierung, rollenbasierter Zugriff, Audit-Trails

Fehlerbehebung & Incident Response

  • Häufige Probleme: Deadlocks, Speicherlecks, Prozessorfehler
  • Log-Analyse, Fehldiagnostik und Ursachenforschung
  • Wiederherstellungsstrategien und Rollback von Flows

Praxislabor: Realistische Implementierung einer Datenpipeline

  • Aufbau eines End-to-End-Flows: Aufnahme, Transformation, Zustellung
  • Implementierung von Fehlerbehandlung, Backpressure und Skalierung
  • Performance-Test und Tuning der Pipeline

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit der Linux-Kommandozeile
  • Grundlegende Kenntnisse in Netzwerktechnik und DatenSystemen
  • Vertrautheit mit Konzepten des Data Streaming oder ETL

Zielgruppe

  • Systemadministratoren
  • Data Engineers
  • Entwickler
  • DevOps-Profis
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien