Kommt es zu Fehlern [bei ETL-basierten Prozessen], lässt sich ihr Ursprung mitunter nur schwer nachvollziehen. Splunk gibt allen Beteiligten schnell Klarheit hierzu und hilft so bei einer zeitnahen Problembehebung.
Der Austausch immer größerer Datenmengen zwischen Anwendungen und Geschäftsprozessen schlug sich im komplexen Geflecht der umfangreichen Systemlandschaft von Siemens Digital Industries in Datenlatenz und unzureichender Transparenz nieder. Auf Seiten von Business-Nutzern verursachte dies Probleme im Hinblick auf die Synchronisierung von SAP-Produkt-Masterdaten.
Durch eine neue Integrationsstrategie rund um Splunk Cloud und die zugehörige Observability-Plattform sowie die Splunk-Apps von Rojo Consultancy für Confluent Kafka und SnapLogic ließ sich die Datenlatenz deutlich reduzieren. Zudem sanken die Betriebskosten erheblich, während gleichzeitig mehr Effizienz und Skalierbarkeit sowie eine höhere Kundenzufriedenheit erreicht wurden.
Siemens Digital Industries (DI), ein Geschäftsbereich der Siemens AG, ist ein führender Anbieter von Softwarelösungen zur Steuerung und Automatisierung von Industrieprozessen. Diese Lösungen wirken im Hintergrund verschiedenster Bereiche unseres alltäglichen Lebens. Von Autos und Lebensmitteln bis hin zu Medikamenten, Waschmaschinen und Smartphones – gut möglich, dass Erzeugnisse wie diese unter Einsatz der Software und Lösungen von Siemens DI entweder produziert oder entwickelt wurden. So nutzen mehr als 170.000 Kundinnen und Kunden weltweit die Software des Unternehmens, um die gewaltigen Datenmengen aus ihren industriellen IoT-Netzwerken für fundierte Entscheidungen auszuwerten.
Für das Monitoring des zugrunde liegenden Datenstreaming-Ökosystems und der zugehörigen KPIs implementierte Siemens DI neben Splunk auch speziell hierfür entwickelte Splunk-Apps von Rojo. Auf diese Weise erfasst das Unternehmen IT-relevante KPIs zu Umfang und Intervallen der Datennutzung seiner Geschäftsbereiche sowie zum Zustand und zur Performance seiner Gesamtplattform. Hinzu kommen Business-KPIs mit Relevanz für die weltweit verteilten Vertriebsstandorte. So erwies sich Splunk für Siemens DI als enormer Gewinn, da das Unternehmen erst damit Klarheit über seine Datenströme erhalten und den Weg zu Observability einschlagen konnte.
Siemens DI ermöglicht es seinen Kundinnen und Kunden über einen Service namens Product Master Data Streaming (PMDS), Produktinformationen in Form von Datenstreams zu verarbeiten und in andere Systeme einzuspeisen. Die Integration von Daten aus unterschiedlichen Quellen erfolgt dabei via SnapLogic, die Datenstreams werden mit Confluent Kafka umgesetzt. Woran es jedoch fehlte, waren Einblicke in die Vorgänge in diesen Datenstreams. So konnte es dazu kommen, dass in SAP-Systemen oder in Tools anderer Anbieter, die Kundinnen und Kunden integrierten, Datenfehler mit negativen Auswirkungen auf die Performance auftraten. Kundinnen und Kunden hatten jedoch keinen Zugriff auf die zur Fehlerbehebung nötigen Daten, und so mussten in solchen Fällen immer die Serviceteams von Siemens DI aktiviert werden.
„Unser erster Use Case von Splunk Enterprise bestand im Monitoring unserer Integrationspipelines und ereignisgesteuerten Plattform“, so Alfonso Rodrigues, Citizen Integrator für PMDS bei Siemens DI. „Von rund zwei Dutzend Metadaten-Feldern erfassen wir Logs, die wir dann umfassend analysieren und als Basis für unsere Dashboards nutzen können. Splunk macht für uns alles so transparent wie nie zuvor.“ Umso einfacher gestaltete sich der Rollout mit den Splunk-Apps für Observability von Rojo Consultancy, anhand derer sich die Splunk-Plattform mit SnapLogic und Kafka integrieren lässt. Damit können die Teams von Siemens DI diverse Anwendungen innerhalb des Ökosystems des Unternehmens in einer zentralen Ansicht überwachen.
Kommt es zu Fehlern [bei ETL-basierten Prozessen], lässt sich ihr Ursprung mitunter nur schwer nachvollziehen. Splunk gibt allen Beteiligten schnell Klarheit hierzu und hilft so bei einer zeitnahen Problembehebung.
Unternehmen, die sich bei der Datenverarbeitung auf Tools zum Exportieren, Transformieren und Laden (ETL) stützen, sind auf ebenso schnelle wie präzise Datenstreams angewiesen. Bei Siemens werden jedoch enorme Datenmengen von verschiedensten Quellen generiert. Entsprechend größer ist also das Risiko für Fehler, die den Prozess beeinträchtigen können. „Problematisch war in erster Linie, dass ETL-basierte Prozesse mitunter gewaltige Datenmengen beinhalten, die mehrfach repliziert und transformiert werden müssen, bevor sie in verwertbarer Form bei unseren Kunden ankommen“, erklärt Thomas Hecht, IT Project Lead & Corporate Process Owner for Product Master Data bei Siemens DI. „Kommt es dann zu Fehlern, lässt sich ihr Ursprung mitunter nur schwer nachvollziehen. Also, auf welche App oder Datenquelle sie zurückgehen. Splunk gibt allen Beteiligten – uns wie auch unseren Kunden – schnell Klarheit hierzu und hilft so bei einer zeitnahen Problemehebung.“
In ähnlicher Weise liefert die Splunk-Plattform auch Performance-Einblicke: Häufig kann Siemens DI Probleme aufdecken, bevor sie sich auf Kundenseite bemerkbar machen – und so frühzeitig die nötigen Informationen zur Behebung bereitstellen. In diesem Kontext überwacht das Unternehmen auch, ob sämtliche verbundenen Systeme gemäß den vereinbarten Service Level Agreements (SLAs) arbeiten.
Mit der Splunk-Plattform erhalten Siemens DI und seine Business-Usern eine Direktsicht auf ihre Daten. Datenbezogene Probleme lassen sich so leichter erkennen und effizient beheben, wodurch es seltener zu kostspieligen Verzögerungen kommt. Die Möglichkeiten sind damit jedoch längst noch nicht ausgeschöpft. „Der nächste logische Schritt besteht darin, den Blick auf die Inhalte der Daten zu richten“, so Hecht. „Also weniger auf das, was sie IT-Teams über den Betrieb der einzelnen Plattformen verraten, sondern welche Einblicke Business-User aus den Daten gewinnen können. Denn mit Splunk können wir die Inhalte im Datenspeicher unter verschiedensten Gesichtspunkten analysieren, die im Business-Kontext so relevant wie wertvoll sein können."
Im Verbund mit den Splunk-Apps von Rojo wäre es etwa auch möglich, dass User Fehlerszenarien mit nur einem einzigen Klick nachvollziehen können. Umsetzbar wären zudem verbrauchsbasierte Abrechnungsmodelle. „Zum einen können wir natürlich Integrationen für unsere Kunden entwickeln. Mit Splunk können wir ihnen aber auch Prozesse aufzeigen, die noch viel mehr Potenzial für sie bereithalten“, erklärt Hecht.