一般的なワークフローの問題

これはあなたの週のように聞こえますか?

これはエッジケースではありません。それは、複数のツールでAzure Data Factoryを実行しているチームの通常の運用条件です。Control-Mがそれぞれをどのように処理するかは以下の通りです。

UPSTREAM DELAYS

Azure Data Factoryのパイプラインは待機中でした。ソースファイルは決して到着しませんでした。

Azure Data Factoryは、そこにないデータを処理できません。Control-Mは、パイプラインをトリガーする前にファイルの到着、ストレージイベント、API、上流アプリケーションジョブを監視します。依存関係が欠落していると、実行が自動的に一時停止し、失敗したり不完全なデータのロードを生成することはありません。

PIPELINE FAILURES

コピーアクティビティが途中で失敗しました。下流の変換はそれでも実行しようとしました。

Control-MはAzure Data Factoryパイプラインの終了状態を検出し、失敗後の下流実行を防止し、適切な場所で設定可能なリトライを適用し、成功が完了した後のみ依存ワークフローを自動的に再開し、データプラットフォーム全体でのカスケード失敗を排除します。

CROSS-PLATFORM FLOWS

Azure Data Factoryが完了しました。DatabricksとSynapseは決して開始されませんでした。

データプラットフォームは、Azure Data Factoryで終わることはまれです。Control-Mは、Databricks、Azure Synapse Analytics、Snowflake、SQLデータベース、API、ファイル転送を横断して依存関係をオーケストレーションし、すべての下流のワークロードが前提条件が満たされるまで開始されないようにします。

SLA PRESSURE

朝のダッシュボードは締切を逃しました。誰もユーザーが不満を持つまで気づきませんでした。

Control-MはSLAターゲットに対してワークフローの進捗を継続的に追跡し、潜在的な違反を事前に予測し、統合された通知チャネルを通じてオペレーターに警告を発し、ビジネスレポートに影響を与える前にチームが介入できるようにします。

HYBRID ORCHESTRATION

ワークフローの半分はオンプレミスで実行されます。残りはAzureで実行されます。

Control-Mは、Azure Data Factoryをオーケストレーションし、オンプレミスのデータベース、エンタープライズアプリケーション、管理されたファイル転送、クラウドサービス、レガシースケジューラーを単一のワークフロー内で統合し、ハイブリッド環境全体での依存関係管理、監視、回復を提供します。

統合事実

Control-M + Azure Data Factory

workload.types

パイプライン実行 · トリガーベースのパイプライン · データ移動 · ETL/ELTオーケストレーション · バッチ処理 · メタデータ駆動のパイプライン

trigger.type

スケジュールトリガー · イベントトリガー · Azure Blob Storageイベント · REST API/webhook · 上流ジョブの完了 · ファイル到着 · 手動トリガー

cross_tool.deps

Azure Databricksジョブ · Azure Synapse Analytics · Azure SQL Database · Azure Functions · Azure Logic Apps · REST API呼び出し · マネージドファイル転送 · Power BIデータセットの更新

cloud.platforms

Microsoft Azure · AWS · Google Cloud Platform · ハイブリッドクラウド · オンプレミスシステム

error_handling

設定可能なリトライ回数 · リトライ間隔 · パイプラインステータスの監視 · 下流依存関係の防止 · 自動ジョブホールド · SLA違反予測 · PagerDuty · Slack

throughput

大規模バッチ処理 · 高容量データ取り込み · メタデータ駆動のオーケストレーション · スケーラブルなパイプライン実行 · ハイブリッドデータ移動

observability

ジョブレベルの監査ログ · エンドツーエンドのワークフローの可視性 · 依存関係の系譜グラフ · SLAの追跡と防止 · 中央集約型監視 · Datadog統合 · Splunk統合 · SIEM互換のイベントストリーム

エンドツーエンドオーケストレーション

1つの生産ワークフロー。スタック内のすべてのツール。

Control-Mは、Azure Data Factory、Databricks、Azure Synapse、Snowflake、ファイル転送、およびクラウドサービス全体でワークフローをオーケストレーションします。依存関係の追跡、SLAの可視性、すべての自動回復を備えた単一のジョブフローです。

  • クロスツール依存関係: Azure Blob Storage → Azure Data Factory → Databricks → Snowflake → Power BI
  • データ認識トリガー: ファイル到着、Event Gridイベント、パイプラインの完了、APIレスポンス

Azure Data Factory

パイプライン実行 · ステータス監視 · 依存関係オーケストレーション · 自動回復

Azure Databricks 

ジョブトリガー · 完了追跡 · SLA監視

Azure Synapse Analytics 

クエリ実行 · 依存関係調整 · ワークロードシーケンシング

Snowflake 

データロードオーケストレーション · 下流トリガー · ステータストラッキング

Azure Blob Storage 

ファイル到着検出 · 検証 · イベントベーストリガー

Power BI 

データセットリフレッシュ · レポート配信 · 完了検証

REST APIs 

イベント統合 · ワークフロートリガー · ステータス取得

airflow coexistence

Control-MはあなたのAirflow DAGを置き換えません。上のレイヤーを実行します。

一般的な反論です:私たちはすでにAirflowにいる。問題はAirflowが何をするかではなく、Airflowが実行される前後で何が起こるかです。そこがパイプラインが実際に失敗する場所です。

AirflowはそのDAGを管理します。Control-Mはそれを取り巻くすべてを管理します。

airflow handles

DAGレベルのオーケストレーション内のデータパイプライン

  • DAGレベルのタスクオーケストレーションによるデータパイプライン
  • Pythonオペレーター、センサー、タスク依存関係
  • パイプライン内で実行されるジョブの実行グラフィック
  • 単一のDAGコンテキスト内でのリトライを管理

control-m adds

DAGの周りの調整レイヤー

  • DAGの周りの調整レイヤー - 上流の条件(ファイル到着、APIイベント、他のツールの完了)に基づいてAirflowをトリガー
  • それ自身のルーチンだけでなく、エンドツーエンドのワークフロー全体にわたって各DAGのSLA貢献を追跡
  • Airflowが開始される前に上流の依存関係が失敗した場合の障害回復を管理
  • 既存のDAGを再作成または移行する必要はない

パイプラインを監視する

Azure Data Factoryワークフローを一元管理

Azure Data Factoryはその環境内での実行可視性を提供しますが、最新のパイプラインは多くのプラットフォームにまたがります。Control-Mは、ワークフロー全体にわたる中央集権的な運用ビューを提供し、チームが単一コンソールから実行、依存関係、および配信のコミットメントを管理するのに役立ちます:

  • パイプライン実行ステータス

  • ランタイム履歴追跡

  • 上流依存関係の可視性

  • 下流依存関係のマッピング

  • SLAリスク指標

SLA保証

Azure Data Factoryの納品をスケジュール通りに保つ

ネイティブスケジューリングは、ワークフロー全体のビジネスレベルのSLA管理を提供しません。Control-Mは依存関係を継続的に監視し、遅延を予測し、報告、分析、または顧客向けプロセスに影響を与える前に自動修復を行います:

  • SLA違反予測

  • 自動エスカレーションワークフロー

  • 依存関係に配慮したスケジューリング

  • 構成可能な回復アクション

  • ビジネスサービスの可視性

複雑なワークフローに秩序をもたらす

Control-Mがチームが可視性、調整、制御を高めて複雑なプロセスをオーケストレーションする方法を学ぶ。