一般的なワークフローの問題

これはあなたの週のように聞こえますか?

これは特異なケースではありません。これらは複数のツールでOCIデータサイエンスパイプラインを運営しているチームのための通常の運用条件です。Control-Mが各ケースをどのように処理するかを見てみましょう。

データの準備

あなたのオブジェクトストレージデータセットは遅れています。トレーニングジョブはそれでもスケジュールされています。

Control-MはOCIデータサイエンスのジョブを成功した上流の処理に依存させ、孤立したスケジュールではなくします。このジョブは、必要なデータワークフローが完了した後にのみ開始され、不完全なデータセットがモデルのトレーニングに伝播するのを防ぎます。

パイプラインの失敗

あなたのパイプライン実行は夜間に失敗しました。下流の処理はまだ待機中です。

Control-MはOCIデータサイエンスの実行を監視し、その完了状況を検出し、実行が失敗したときに依存する作業を保持します。設定可能な状態ポーリングと障害耐性が実行の監視方法を制御し、失敗したMLステップが下流に連鎖するのを防ぎます。

モデルデプロイメント

トレーニングは午前2時に終了しました。モデルデプロイメントはまだ引き渡しが必要です。

Control-Mは成功した上流の完了を次のOCIデータサイエンスアクション、モデルデプロイメントエンドポイントの作成に直接接続します。トレーニングとデプロイメントは、一つのスケジュールされたワークフロー内の依存ステージとなり、手動トリガーを排除します。

SLAリスク

ジョブはまだ実行中です。あなたの朝のスコアリングの締切が近づいています

Control-MはOCIデータサイエンスのジョブをその完全な生産ワークフロー内で追跡し、依存ステップ全体にわたってSLA管理を適用します。チームは、遅延が必要な納期を脅かすときに介入できるようになります。

ツール間の依存関係

OCIデータ統合が完了しました。あなたのデータサイエンスのジョブは開始されていません。

Control-MはOCIデータ統合とOCIデータサイエンスを同じワークフロー内で調整し、切り離されたスケジュールではなく、完了依存性を使用します。データサイエンスのジョブは、必要なETLタスクが完了した後に開始され、サービス間のタイミングのギャップを排除します。

統合事実

Control-M + OCIデータサイエンス

ワークロードタイプ

ジョブ実行 · パイプライン実行 · モデルデプロイエンドポイント · ノートブックセッション

トリガータイプ

時間スケジュール · 上流ジョブの完了 · ファイル到着 · Control-M依存関係 · API駆動の実行

クロスツール依存関係

OCIデータ統合タスク · OCIデータフロー実行 · オブジェクトストレージ配信 · Airflow DAG · ファイル転送 · REST APIコール

クラウドプラットフォーム

Oracle Cloud Infrastructure · OCIデータサイエンス · OCIデータ統合 · OCIデータフロー · OCIオブジェクトストレージ

エラーハンドリング

状態ポーリング · 障害耐性 · 下流のカスケード防止 · 自動ジョブ保持 · SLAアラート

スループット

バッチMLワークロード · 並列ジョブ実行 · 再現可能なパイプライン実行 · 分散データ処理

可観測性

ジョブ実行状況 · パイプライン実行状況 · 結果と出力 · SLAトラッキング · 依存関係の可視性 · 実行履歴

エンドツーエンドのオーケストレーション

1つの本番ワークフロー。スタック内のすべてのツール。

Control-Mは、OCIデータサイエンス、OCIデータ統合、OCIデータフロー、オブジェクトストレージ、Airflow、ファイル転送、クラウドサービスを単一のジョブフロー内でオーケストレーションします。依存関係の追跡、SLAの可視性、およびすべての自動回復を伴います。

  • クロスツール依存関係: OCIデータ統合 → OCIデータサイエンスジョブ → モデルデプロイメント → 分析の引き渡し
  • データを考慮したトリガー: ファイル到着、APIイベント、上流タスクの完了、パイプラインの完了

OCIデータサイエンス 

ジョブ実行を開始する · パイプライン実行を開始する · モデルデプロイエンドポイントを作成する · ノートブックセッションを作成および削除する

OCIデータ統合 

ETLタスクを実行 · ワークスペースの実行を調整 · タスクパラメータを渡す

OCIデータフロー 

Spark処理を調整 · 処理の依存関係を管理 · 下流の実行を接続

OCIオブジェクトストレージ 

データの到着を調整 · 下流の実行を制御 · データ駆動型ワークフローを接続

Apache Airflow 

DAG実行を調整 · 上流の依存関係を管理 · 下流の引き渡しを接続

マネージドファイル転送 

安全なファイル移動 · 配送依存関係 · ワークフロー調整

REST API 

API駆動の実行 · サービス間の引き渡し · ワークフロー統合

airflow共存

Control-MはあなたのAirflow DAGを置き換えることはありません。それはその上のレイヤーを実行します。

よくある異議: “私たちはすでにAirflowを使用しています。” 問題はAirflowが何をするかではなく、Airflowが実行される前後に何が起こるかです。そこがパイプラインが実際に失敗するところです。

AirflowはそのDAGを管理します。Control-Mはその周囲のすべてを管理します。

AIRFLOWが処理

データパイプライン内でのDAGレベルのオーケストレーション

  • データパイプライン内でのDAGレベルのタスクオーケストレーション
  • Pythonオペレーター、センサー、タスク依存関係
  • パイプライン内で実行されるジョブの実行グラフ
  • 単一のDAGコンテキスト内でのリトライを管理

control-mが追加

DAGを取り巻く調整層

  • DAGを取り巻く調整層 - 上流の条件に基づいてAirflowをトリガーする: ファイル到着、APIイベント、他のツールの完了
  • 各DAGのSLA貢献をフルエンドツーエンドのワークフロー全体で追跡する、単なるルーチンだけではなく
  • Airflowが開始する前に上流の依存関係が失敗した場合の障害回復を管理
  • 既存のDAGは再構築または移行する必要はない

MLワークフローを監視する

OCIデータサイエンスの実行をパイプライン全体で監視する

OCIデータサイエンスは自身のジョブやパイプライン実行の可視性を提供しますが、本番MLはその境界外の作業に依存します。Control-Mは、それらの実行段階を1つの運用ビューに統合し、チームが完全なパイプラインを監視できるようにします:

  • ジョブおよびパイプラインのステータス

  • 上流および下流の依存関係

  • ジョブの結果と出力

  • エンドツーエンドの実行可視性

  • クロスプラットフォームのワークフローステータス

SLA保証

OCIデータサイエンスのパイプラインをスケジュール通りに保つ

成功したOCIデータサイエンスの実行は、それに依存するプロセスに対して遅れて到着する可能性があります。Control-Mは、エンドツーエンドの配信要件に対してワークロードを管理し、依存関係の遅延やSLAリスクを事前に明らかにし、下流の操作に干渉する前に対処します:

  • エンドツーエンドのSLA追跡

  • 依存関係を意識した実行制御

  • 予測的遅延可視性

  • 自動例外処理

  • 中央集中的なワークフロー監視

複雑なワークフローに秩序をもたらす

Control-Mがチームがより大きな可視性、調整、制御で複雑なプロセスをオーケストレーションする手助けをする方法を学ぶ。