Die führenden Plattformen zur Reduzierung des Arbeitsaufwands im Bereich Data Engineering in einer PoC-Evaluierung

7 min gelesen
Fassen Sie dies mit AI zusammen

Die wichtigsten Erkenntnisse

  • PoC-Evaluierungen dauern zwei bis sechs Wochen, daher ist die Geschwindigkeit, mit der eine funktionsfähige Pipeline bereitgestellt wird, entscheidend für den Erfolg.
  • Fünf Aufgaben bestimmen den technischen Aufwand für den PoC: Einrichtung der Schnittstellen, Schema-Mapping, Transformationslogik, Fehlerbehandlung und Anpassung an sich ändernde Anforderungen.
  • Herkömmliche ETL-Lösungen erfordern einen hohen Einrichtungsaufwand, herkömmliche iPaaS-Lösungen erfordern zusätzlichen Entwicklungsaufwand für komplexe Transformationen, und ELT-Tools decken nur einen Teil eines End-to-End-Anwendungsfalls ab.
  • Drei Faktoren unterscheiden die Plattformen in einem PoC: Umfang und Qualität der Konnektoren, Erfahrung in der Entwicklung sowie die Zeit bis zur ersten funktionsfähigen Pipeline.
  • SnapLogic deckt alle drei Bereiche ab – mit vorgefertigten Snaps, einem visuellen Designer und der KI-gestützten Erstellung von Pipelines.

Was bedeutet „Reduzierung des Arbeitsaufwands im Bereich Data Engineering“ im Rahmen eines PoC?

Bei einem Proof of Concept (PoC) umfasst der technische Arbeitsaufwand die Gesamtzahl der Stunden, die dafür aufgewendet werden, Daten in das Cloud-Data-Warehouse zu übertragen und nutzbar zu machen. Dies beginnt mit den Integrationsarbeiten: Einrichtung von Konnektoren, Schema-Mapping, Transformationslogik, Fehlerbehandlung und Tests. Ein vollständiger PoC-Umfang umfasst zudem die Optimierung von Abfragen, Governance, Zugriffskontrollen sowie ein BI-Dashboard oder Reverse-ETL, um Daten wieder aus dem Data-Warehouse zu übertragen. Jede Anforderung, die sich während der Evaluierungsphase ändert, verursacht zusätzliche Wartungsstunden.

Eine Plattform reduziert diesen Arbeitsaufwand durch vorgefertigte Konnektoren zu gängigen Systemen, visuelles oder KI-gestütztes Pipeline-Design, automatische Schemaerkennung und -zuordnung sowie integrierte Governance. Governance ist wichtig, da ein PoC auch dann weiterlaufen muss, wenn sich ein Quellfeld ändert oder ein Stakeholder einen neuen Datenschnitt anfordert.

Da weniger Ingenieure für die tägliche Wartung der Pipeline zuständig sind, erreicht das Geschäftsteam seinen Proof Point schneller.

Welche Kategorien von Plattformen bewerten die Teams?

Bei der Bewertung von Optionen zur Optimierung der Integrationsarbeit im Rahmen eines PoC greifen Unternehmen in der Regel auf vier unterschiedliche Architekturansätze zurück. Je nach Anwendungsfall bietet jeder Plattformtyp ein anderes Gleichgewicht zwischen Einrichtungsgeschwindigkeit, Transformationsumfang und betrieblicher Komplexität.

Traditionelle ETL- und Datenintegrationslösungen (Informatica, Talend)

Dank ihrer umfassenden Transformationsfunktionen und einer ausgereiften Governance eignet sich diese Kategorie für den Einsatz in groß angelegten Produktions-Data-Warehouses. Selbst eine einfache PoC-Umgebung erfordert in der Regel einen höheren Zeitaufwand für die Einrichtung, spezielle Fachkenntnisse und eine dedizierte Administration. 

iPaaS (Boomi, MuleSoft, Workato)

Die Einrichtung von Konnektoren erfolgt bei gängigen SaaS-zu-SaaS-Szenarien schnell, da die API-Orchestrierung die Kernkompetenz darstellt. PoCs mit komplexen Transformationen, großen Batch-Volumina oder weniger gängigen Quellsystemen können einen erheblichen zusätzlichen Entwicklungsaufwand erfordern.

Moderne Datenübertragung mit ELT (Fivetran, Airbyte)

ELT ist das Spezialgebiet, und einfache Replikationen, wie beispielsweise die Synchronisierung einer Datenbanktabelle in ein Data Warehouse, sind schnell erledigt. Für Transformation, Orchestrierung und Geschäftslogik wird ein weiteres Tool benötigt, sodass ein End-to-End-PoC oft zwei oder drei Produkte kombiniert, was zusätzlichen Integrationsaufwand mit sich bringt. Der Zugriff auf Datenquellen hinter einer Firewall oder in einem anderen Netzwerk kann eine Herausforderung darstellen.

KI-native Integration und Agenten-Orchestrierung (SnapLogic)

In dieser Kategorie wird das Low-Code-Pipeline-Design mit generativer KI-Unterstützung kombiniert. Ein Business-Analyst oder ein einzelner Integrationsspezialist kann bereits in derselben Sitzung, in der die Anforderungen besprochen werden, eine funktionsfähige Pipeline erstellen und validieren. Diese Kategorie wurde geschaffen, um die Flexibilität einer manuell programmierten Integration mit der Geschwindigkeit zu verbinden, die moderne Bewertungen erfordern.

PlattformkategorieFähigkeiten
Traditionelles ETLUmfassende Umstellung und Governance, längste Einrichtungszeit für den PoC.
iPaaSSchnelle Umsetzung bei SaaS-zu-SaaS und APIs, mehr technische Arbeit bei komplexen Datenaufgaben.
ELTSchnellste Erstsynchronisierung, separate Tools für Transformation und Orchestrierung erforderlich.
KI-native Integration Vorgefertigte Konnektoren, visuelles Design und KI-Unterstützung auf einer einzigen Plattform.

Ist Ihre Pipeline bereit für KI-Agenten?

ETL vs. ELT ist nur der Ausgangspunkt. Erfahren Sie, welche Anforderungen agentische KI an Ihre Dateninfrastruktur stellt.

Holen Sie sich das eBook

Wodurch unterscheiden sich Plattformen bei einem PoC?

Bei der Bewertung von Datenintegrationsplattformen kommt es darauf an, wie effizient sie die zentralen betrieblichen Herausforderungen während eines PoC bewältigen. Drei entscheidende Funktionen bestimmen den erforderlichen technischen Aufwand und die Gesamtzeit bis zur Wertschöpfung:

1. Umfang und Qualität der Konnektoren. Hunderte vorgefertigter, aktiv gepflegter Konnektoren sparen Tage an individueller API-Entwicklungsarbeit. PoC-Teams haben selten Zeit, Authentifizierungsabläufe, Paginierungslogik und die Handhabung von Ratenbegrenzungen zu programmieren und zu debuggen. Ein Konnektor, der sofort einsatzbereit ist, kann eine PoC-Einrichtung innerhalb eines Tages ermöglichen, während ein Konnektor, der Konfigurationsskripte erfordert, zwei Wochen in Anspruch nehmen kann.

2. Entwicklungserfahrung. Die visuelle Erstellung von Pipelines per Drag-and-Drop mit KI-generierten Feldzuordnungen und vorgeschlagenen Transformationen reduziert den Entwicklungsaufwand im Vergleich zu handgeschriebenem Code erheblich. Da sich die Anforderungen während eines PoC oft mehrmals ändern, wenn die Beteiligten auf erste Ergebnisse reagieren, lässt sich eine visuelle Pipeline innerhalb von Minuten anpassen, während ein benutzerdefiniertes Skript möglicherweise eine erneute Bereitstellung erfordert.

3. Zeit bis zur ersten funktionsfähigen Pipeline. Führungskräfte suchen nach einem frühen Anzeichen für den Nutzen, bevor sie weitere Mittel oder Personal bereitstellen. Plattformen, die auf iPaaS- und KI-Orchestrierungsprinzipien basieren, sind so konzipiert, dass ein funktionsfähiger Datenfluss innerhalb weniger Stunden zum Laufen gebracht werden kann.

Durch die Minimierung der Einrichtungszeit und die Ermöglichung schneller Iterationen versetzen Plattformen, die sich in diesen Bereichen auszeichnen, Teams in die Lage, sich auf die Erzielung strategischer Geschäftsergebnisse zu konzentrieren, anstatt sich mit der Behebung technischer Probleme zu beschäftigen.

Wie reduziert SnapLogic den technischen Aufwand für Proof-of-Concept-Projekte?

SnapLogic reduziert den technischen Aufwand während eines PoC durch eine Kombination aus Low-Code-Tools, vorgefertigten Komponenten und KI-Funktionen:

  • Über 1.000 vorgefertigte Konnektoren: Eine Bibliothek mit Snaps und Snap Packs deckt CRM- und ERP-Plattformen, Cloud-Data-Warehouses sowie ältere lokale Datenbanken ab und ermöglicht es PoC-Teams, Geschäftsergebnisse zu validieren, ohne Konnektor-Code schreiben zu müssen.
  • Migration von Legacy-Integrationen: Der SnapLogic Intelligent Modernizer (SLIM) analysiert bestehende Legacy-Integrationen und generiert daraus SnapLogic-Pipelines, sodass PoC-Teams die vorhandene Logik in die Evaluierung einbeziehen können, ohne sie manuell neu erstellen zu müssen.
  • Visueller Low-Code-Pipeline-Designer: Ermöglicht es einem einzelnen Integrationsspezialisten , Pipelines in Echtzeit zu erstellen, zu testen und anzupassen, während sich die PoC-Anforderungen weiterentwickeln.
  • GenAI-Unterstützung: SnapGPT generiert Pipelines anhand von Eingaben in einfacher Sprache und hilft dabei, diese zu erläutern und zu verfeinern, sodass Änderungen an den Anforderungen während der Evaluierungsphase nur noch wenige Minuten statt mehrerer Tage in Anspruch nehmen.
  • Integration in KI-Entwicklungsumgebungen: SnapCode bindet SnapLogic in KI-Entwicklungsumgebungen ein, sodass Entwickler Integrationen erstellen und weiterentwickeln können, ohne das Tool wechseln zu müssen.
  • KI-Orchestrierung mit MCP: Enterprise MCP verwandelt PoC-Pipelines in geregelte Tools, auf die KI-Agenten zugreifen können, um Unternehmensdaten abzurufen, während der SnapLogic MCP-Server es den Agenten ermöglicht, diese Pipelines bereitzustellen, auszuführen und zu validieren, sodass Teams den Nutzen ohne benutzerdefinierte Verbindungen nachweisen können.
  • Chatbots für Geschäftsteams: Mit AgentCreatorkönnen Teams Low-Code-Agenten erstellen, die integrierte Daten abfragen, aufbereiten und darauf reagieren und so ohne separate Berichterstellung einen unmittelbaren geschäftlichen Nutzen bieten.

Die gleichen Low-Code-Pipelines, die während des PoC erstellt wurden, lassen sich ohne Neuentwicklung direkt in die volle Produktion übernehmen. Durch die Optimierung dieser Kernaufgaben hilft SnapLogic den Teams, innerhalb eines engen Bewertungszeitraums einen quantifizierbaren geschäftlichen Nutzen nachzuweisen und diese Arbeit anschließend direkt in die Produktion zu überführen.

PoC-Momentaufnahme

Ein Finanzdienstleister hat im Rahmen eines Proof-of-Concept dieselbe API-Pipeline mit SnapLogic innerhalb von 1 bis 3 Tagen aufgebaut , während dies mit MuleSoft einen Monat gedauert hätte. Sein IT-Leiter merkte an, dass der interne Aufbau dieser Funktionen oder der Kauf separater Orchestrierungs- und UI-Tools„die Kostenvon SnapLogicverdreifachen würde“.

Häufig gestellte Fragen (FAQ)

Plattformen mit vorgefertigten Konnektoren, visuellem Pipeline-Design und KI-gestützter Zuordnung. SnapLogic bietet alle drei Funktionen in einem einzigen Produkt.

Die meisten dauern zwei bis sechs Wochen. Die von Ihnen gewählte Plattform bestimmt maßgeblich, ob diese Zeit für die Validierung des geschäftlichen Nutzens oder für die Entwicklung von Konnektoren aufgewendet wird.

Ein einzelner Integrationsspezialist kann im visuellen Designer Pipelines erstellen und anpassen, und ein Business-Analyst kann durch KI-gestütztes Design dazu beitragen.

Transformation, Orchestrierung und Geschäftslogik erfordern eine Anbindung an lokale Quellen und die Datenverarbeitung, die im Kundennetzwerk jedoch nicht vorhanden ist. Daher umfasst ein durchgängiger Anwendungsfall in der Regel mehr als ein Produkt.

Eine Plattform, die Low-Code-Pipeline-Design mit generativer KI-Unterstützung und der Koordination von Agenten kombiniert, sodass Pipelines dialogorientiert erstellt, validiert und abgefragt werden können.

Machen Sie den nächsten Schritt

Steht bei Ihnen bald ein PoC an oder wächst Ihr Integrations-Backlog immer weiter? Entdecken Sie die Plattform in Ihrem eigenen Tempo oder vereinbaren Sie eine Demo, um sie auf Ihren Anwendungsfall abzustimmen.

Vizepräsident für Wachstumsmarketing bei SnapLogic
Kategorie: Daten