Kontakt aufnehmen

Schulungsübersicht

Grundlagen zu NiFi und Datenflüssen

  • Bewegte vs. ruhende Daten: Konzepte und Herausforderungen
  • Die Architektur von NiFi: Kernelemente, Flow Controller, Verfolgung sowie Protokollsystem
  • Hauptkomponenten: Prozessoren, Verbindungen, Controller und die Überwachung der Datenverläufe

Kontext der Big Data-Technologien und Integration

  • NiFis Rolle in Big-Data-Umgebungen (Hadoop, Kafka sowie Cloud-Speicherlösungen)
  • Überblick zu HDFS, MapReduce sowie aktuellen Alternativen
  • Anwendungsfälle: Stream-Erfassung, Protokollübertragung und Ereignisverarbeitungspipelines

Installation, Konfiguration sowie Einrichtung von Clustern

  • Installation von NiFi sowohl in Einzelknoten- als auch Cluster-Konfigurationen
  • Clustering: Zuweisung der Knotenfunktionen, Nutzung von Zookeeper sowie Lastverteilung
  • Orchestrierung von NiFi-Installationen mittels Ansible, Docker oder Helm

Entwurf und Verwaltung komplexer Datenflüsse

  • Routing, Filtern sowie Zusammenführen von Datenströmen
  • Konfiguration der einzelnen Prozessoren (z. B. InvokeHTTP, QueryRecord, PutDatabaseRecord)
  • Umgang mit Datenstrukturen, Erweiterungen sowie Transformationen
  • Fehlerbehandlung, Wiederholungsmechanismen und Überlastregulierung

Integrationsthemen in der Praxis

  • Anbindung an Datenbanken, Nachrichtenplattformen sowie REST-APIs
  • Versorgung von Analysewerkzeugen: Kafka, Elasticsearch oder Cloud-Speicherlösungen
  • Zusammenarbeit mit Monitoring-Tools wie Splunk, Prometheus oder Logging-Systemen

Überwachung, Wiederherstellung und Verfolgung der Datenverläufe

  • Nutzung der Benutzeroberfläche von NiFi sowie Metriken zur Leistungsüberprüfung
  • Einrichtung autonomer Wiederherstellungsszenarien und Fehlerbehandlungen
  • Datensicherung, Versionierung von Workflows sowie Verwaltung der Änderungen

Leistungsoptimierungen und Performance-Tuning

  • Optimierung des Java Virtual Machines, des Heap-Speichers sowie der Threadpool-Einstellungen
  • Gestaltung der Workflows so, dass Flaschenhälse minimiert werden
  • Isolierung von Ressourcen, Priorisierung einzelner Workflows sowie Regulierung des Datendurchsatzes

Empfehlungen zur Umsetzung sowie Verwaltungsstrategien

  • Dokumentation von Workflows, einheitliche Namensgebung und modulare Strukturen
  • Sicherheitsaspekte: Verschlüsselung per TLS, Authentifizierung, Zugriffssteuerung sowie Datenschutzmaßnahmen
  • Veränderungskontrolle, Versionierung von Prozessen, Rollenverwaltung und lückenlose Protokollierung der Änderungen

Fehleranalyse sowie Notfallmaßnahmen

  • Übliche Schwierigkeiten: Verriegelungsprobleme, Speicherverlust sowie Fehler in Prozessoren
  • Auswertung von Protokollen, Diagnostik verfahrensfehlender Abläufe sowie Bestimmung der Ursachen
  • Strategien zur Wiederherstellung beschädigter Workflows und Korrekturmaßnahmen

Praktische Übungen: Aufbau einer funktionierenden Datapipeline

  • Gestaltung eines vollständigen Workflows: Erfassung, Transformation und Zielzuteilung der Daten
  • Einrichtung von Mechanismen zur Fehlervermeidung sowie Überlaststeuerung
  • Durchführung von Performancetests und anschließender Optimierung der Pipeline

Zusammenfassung und zukünftige Perspektiven

Voraussetzungen

  • Erfahrung mit der Linux-Kommandozeile
  • Grundverständnis von Netzwerktechnik und Datenystemen
  • Vorkenntnisse zu Konzepten des Daten-Streamings oder ETL-Prozessen

Zielgruppe

  • Systemadministratoren
  • Dateningenieure
  • Entwickler
  • DevOps-Fachkräfte
 21 Stunden

Teilnehmerzahl


Preis je Teilnehmer (exkl. USt)

Erfahrungsberichte (7)

Kommende Kurse

Verwandte Kategorien