一般的なワークフローの問題

これがあなたの週のように聞こえますか?

これはエッジケースではありません。これらは、複数のツールでDataikuワークフローを実行しているチームにとっての通常の操作条件です。Control-Mがそれぞれをどのように処理するかを示します。

上流データ

6:00 AMのDataikuフローが開始されました。昨日のファイルは決して到着しませんでした。

Control-Mはクラウドストレージ、MFTプラットフォーム、およびエンタープライズシステム全体でファイルの到着を監視します。必要なデータが存在し、検証され、完全であるまでDataikuシナリオの開始を防ぎ、不足している入力による失敗した実行を排除します。

モデルパイプライン

データ準備が完了しました。スコアリングワークフローはトリガーされませんでした。

Control-Mは上流のジョブの成功完了状態を検出し、依存関係を評価し、自動的に下流のDataikuシナリオを開始します。エンドツーエンドのオーケストレーションは手動の引き渡し、カスタムスクリプト、および脆弱なスケジューラ依存関係を置き換えます。

障害回復

Spark変換が午前2時17分に失敗しました。誰も気づきませんでした

Control-Mは実行失敗を直ちに検出し、設定可能なリトライをトリガーし、PagerDutyまたはSlackを通じてアラートをルーティングし、不完全なデータを消費したり信頼できないモデル出力を生成したりすることから下流のDataikuプロセスを防ぎます。

SLAリスク

モデルの更新が遅れています。ビジネスユーザーは8時までに結果が必要です。

Control-MはSLAターゲットに対するワークフローの進捗を継続的に追跡し、締切が守られない前に違反を予測し、下流の報告および意思決定プロセスを保護するための時間がまだあるうちに是正措置を可能にします。

クロスプラットフォームデータOps

AWS、Databricks、Dataiku、Snowflakeはすべて完了しました。誰もそのステータスを信頼していません。

Control-Mはプラットフォーム全体で単一のオーケストレーションレイヤーを提供し、依存関係、実行状況、および回復アクションを1つの場所で追跡します。チームは孤立したツールレベルのビューではなく、全体のワークフローを可視化できます。

統合の事実

Control-M + Dataiku

ワークロード.タイプ

Dataikuジョブ · Dataikuシナリオ · データセットルール計算 · データ準備パイプライン · 機械学習モデル実行 · バッチ分析ワークロード

トリガー.タイプ

ファイル到着(S3 · Azure Blob · GCS · SFTP) · API/webhook · 上流ジョブの完了 · Dataikuシナリオの完了 · イベントベースのトリガー · 時間スケジュール

クロスツール.依存関係

Apache Airflow DAGトリガー · Databricksジョブの完了 · Snowflakeワークロード実行 · Spark処理 · Fivetran同期完了 · REST APIコール · ファイル配信確認

クラウド.プラットフォーム

AWS · Microsoft Azure · Google Cloud Platform · ハイブリッド環境 · Control-M SaaS + オンプレミス

エラーハンドリング

構成可能な再試行回数 · インターバル · 下流カスケード防止 · 自動ワークフロー保持 · SLA前違反アラート · PagerDuty · Slack

スループット

高ボリュームバッチ処理 · 機械学習パイプライン · 大規模データ準備 · 並列ワークフロー実行 · イベント駆動オーケストレーション

可観測性

ジョブレベル監査ログ · SLA追跡と違反予測 · 依存関係系譜グラフ · Datadog/Splunk統合 · SIEM互換のイベントストリーム

エンドツーエンドオーケストレーション

1つのプロダクションワークフロー。スタック内のすべてのツール。

Control-Mは、Dataiku、Snowflake、Databricks、Spark、Airflow、ファイル転送、およびクラウドサービスを単一のジョブフローでオーケストレーションします。依存関係の追跡、SLAの可視性、すべての自動回復を備えています。

  • クロスツール依存関係:ファイル到着 → Dataiku準備 → モデル訓練 → Snowflake公開 → BIデリバリー
  • データに基づくトリガー:ファイル到着、APIイベント、上流ジョブの完了、Dataikuシナリオの終了状態検出

Dataiku

シナリオ実行 · ワークフローオーケストレーション · ステータストラッキング · 依存関係管理

Snowflake

倉庫実行 · SQL処理 · ダウンストリームパブリッシング

Databricks

ジョブトリガー · ステータスモニタリング · リカバリー調整

Apache Spark

変換オーケストレーション · 依存関係管理 · 実行追跡

Apache Airflow

DAGトリガー · ステータス収集 · ワークフロー調整

Cloud Storage (S3/Azure Blob/GCS

ファイル検出 · イベントトリガー · データ準備確認

BIプラットフォーム

レポート配信 · 分析リフレッシュ · 完了確認

airflow共存

Control-MはあなたのAirflow DAGを置き換えません。上のレイヤーを実行します。

一般的な異議:私たちはすでにAirflowにいます。問題はAirflowが何をするかではなく、Airflowが実行される前後に何が起こるかです。そこがパイプラインが実際に失敗するところです。

AirflowはそのDAGを管理します。Control-Mはそれを取り巻くすべてを管理します。

airflowは処理します

データパイプライン内のDAGレベルのオーケストレーション

  • DAGレベルのタスクオーケストレーションをデータパイプライン内で
  • Pythonオペレーター、センサー、タスク依存関係
  • パイプライン内で実行されるジョブの実行グラフィック
  • 単一のDAGコンテキスト内でのリトライを管理

control-mが追加します

あなたのDAGの周りのコーディネーションレイヤー

  • DAGの周りのコーディネーションレイヤー - 上流の条件に基づいてAirflowをトリガー:ファイルの到着、APIイベント、他のツールの完了
  • 各DAGのSLA貢献度をエンドツーエンドのワークフロー全体で追跡し、自身のルーチンだけではありません
  • Airflowが開始する前に上流の依存関係が失敗した場合の障害回復を管理
  • 既存のDAGは書き直したり移行したりする必要はありません

ワークフローを監視する

すべての依存プラットフォームにわたってDataikuパイプラインを監視します。

Dataikuは自社のプロセスの可視性を提供しますが、プロダクションワークフローは単一のプラットフォームを超えています。

Control-Mは、取り込み、変換、機械学習、配信プロセス全体を一つの運用ビューで集中監視します:

  • パイプライン実行ステータス

  • ランタイム履歴追跡

  • 上流依存関係

  • 下流依存関係

  • SLAリスクインジケーター

SLA保証

Dataikuの成果物をスケジュール通りに保つ。

データサイエンスと分析チームは予測可能な配信ウィンドウに依存していますが、Dataikuはすべての上流依存関係を管理できません。

Control-Mは、ワークフロー実行全体を追跡し、SLAリスクを予測し、締切が過ぎる前にリカバリーアクションを自動化します:

  • SLA違反予測

  • 自動エスカレーション

  • 設定可能なリカバリーアクション

  • 依存関係を考慮したスケジューリング

  • ビジネス締切の追跡

複雑なワークフローに秩序をもたらす

Control-Mがチームにどのように複雑なプロセスを可視化、調整、制御するのに役立つかを学ぶ。