Conception d‘ultra-pipelines

1 min read
Résumez cela avec l'IA

Les tâches Ultra Pipeline sont utilisées pour mettre en œuvre des intégrations de services web en temps réel qui nécessitent des temps de réponse proches de quelques sous secondes. Dans la première série de billets, je décrirai certains des aspects clés de la conception des Ultra Pipelines. Dans la deuxième série de billets, je me concentrerai sur la surveillance de ces tâches à faible latence.

Mise en place d‘Ultra Pipelines
Les tâches Ultra permettent à un pipeline, appelé Ultra Pipeline, de consommer en continu des documents provenant de sources externes.

Les outils Ultra Pipelines étant analogues à l‘architecture requête/réponse des services web, les aspects suivants doivent être pris en compte lors de la conception des Ultra Pipelines dans SnapLogic.

Nombre de vues :

Ultra Pipelines peut prendre en charge une combinaison de vues d‘entrée et de sortie :

  • Aucune vue d'entrée non connectée, aucune vue de sortie non connectée – Bien qu'il s'agisse d'une combinaison rare, cette conception pourrait être utilisée dans une architecture « listener-consumer ». Avec 0 vue d'entrée et 0 vue de sortie, un Ultra Pipeline fonctionnant en permanence peut être utilisé pour interroger et consommer les documents provenant d'un point de terminaison, sans nécessiter d'alimentation en documents provenant du « feed-master ».
    Cas d'utilisation : Concevoir un mécanisme d'interrogation pour la capture des modifications à l'aide du snap Idoc Listener et mettre à jour la table de données de référence avec ces modifications. Comme les documents ne proviennent pas du maître de flux, la vue de sortie du pipeline peut être fermée.
ultra_pipeline_SAP
Ce SnapLogic Ultra Pipeline est conçu pour interroger la capture des changements à l‘aide du Snap SAP Idoc Listener.
  • Une vue d'entrée non connectée, une ou plusieurs vues de sortie non connectées – La conception la plus courante d'Ultra Pipeline est une structure simple de type requête-réponse qui peut servir de couche d'accès aux données pour les services Web en temps réel. Cette conception transforme un pipeline en une tâche exécutée en continu ; les documents sont fournis au pipeline via un « feed-master » qui gère une file d'attente de documents, analysés par le pipeline, et les réponses sont renvoyées à l'appelant via le « feed-master ».
    Cas d'utilisation 1 : Concevoir une API en temps réel pour des services Web sur site destinés à être utilisés dans cloud. Le pipeline ci-dessous utilise les informations contenues dans le document entrant pour valider l'utilisateur, analyser la requête, appeler un serveur d'applications sur site et renvoyer la réponse. Afin d'assurer un traitement robuste, une fonctionnalité de gestion des erreurs et une vue de sortie supplémentaire permettant de renvoyer les erreurs en cas d'échec ont été ajoutées à la conception du pipeline.
Pipeline ultra toujours allumé
Cet Ultra Pipeline utilise les informations contenues dans le document entrant pour valider l‘utilisateur, analyser la demande, appeler un serveur d‘application sur site et renvoyer la réponse.

Cas d‘utilisation 2 : Un point de terminaison consommateur peut être défini en utilisant le JMS Producer Snap pour consommer des documents à partir du flux de données, en créant un Ultra Pipeline avec une vue d‘entrée. La fonctionnalité du maître de flux étant basée sur un cadre demande-réponse, pour chaque document de demande envoyé à une instance de tâche Ultra Pipeline, le maître de flux doit recevoir une réponse, ce qui implique qu‘au moins une vue de sortie doit être présente. L‘Ultra Pipeline illustré ci-dessous lit les données d‘un document d‘entrée, les analyse et les écrit dans la file d‘attente JMS, et une copie de la réponse est renvoyée à l‘appelant.

SnapLogic Ultra Pipeline JMS
Ce SnapLogic Ultra Pipeline lit les données d‘un document d‘entrée, les analyse et les écrit dans la file d‘attente JMS, une copie de la réponse étant renvoyée à l‘appelant.

Dans le prochain article de cette série, je passerai en revue les types de vues disponibles pour Ultra Pipelines. J‘aborderai ensuite la gestion des erreurs et des exceptions, ainsi que la gestion et la surveillance des performances.

Prochaines étapes : Consultez nos ressources vidéo pour des démonstrations SnapLogic intéressantes et n‘hésitez pas à nous contacter si vous souhaitez en savoir plus sur SnapLogic Elastic Integration Platform.

Ancien ingénieur solutions senior chez SnapLogic
Conception d‘ultra-pipelines

Découvrez SnapLogic en action grâce à une visite interactive !

Visite interactive Image de démonstration