一般的なお問い合わせと所在地情報
お問い合わせ一般的なワークフローの問題
これは特異なケースではありません。これらは複数のツールでOCIデータサイエンスパイプラインを運営しているチームのための通常の運用条件です。Control-Mが各ケースをどのように処理するかを見てみましょう。
データの準備
Control-MはOCIデータサイエンスのジョブを成功した上流の処理に依存させ、孤立したスケジュールではなくします。このジョブは、必要なデータワークフローが完了した後にのみ開始され、不完全なデータセットがモデルのトレーニングに伝播するのを防ぎます。
パイプラインの失敗
Control-MはOCIデータサイエンスの実行を監視し、その完了状況を検出し、実行が失敗したときに依存する作業を保持します。設定可能な状態ポーリングと障害耐性が実行の監視方法を制御し、失敗したMLステップが下流に連鎖するのを防ぎます。
モデルデプロイメント
Control-Mは成功した上流の完了を次のOCIデータサイエンスアクション、モデルデプロイメントエンドポイントの作成に直接接続します。トレーニングとデプロイメントは、一つのスケジュールされたワークフロー内の依存ステージとなり、手動トリガーを排除します。
SLAリスク
Control-MはOCIデータサイエンスのジョブをその完全な生産ワークフロー内で追跡し、依存ステップ全体にわたってSLA管理を適用します。チームは、遅延が必要な納期を脅かすときに介入できるようになります。
ツール間の依存関係
Control-MはOCIデータ統合とOCIデータサイエンスを同じワークフロー内で調整し、切り離されたスケジュールではなく、完了依存性を使用します。データサイエンスのジョブは、必要なETLタスクが完了した後に開始され、サービス間のタイミングのギャップを排除します。
統合事実
|
ワークロードタイプ |
ジョブ実行 · パイプライン実行 · モデルデプロイエンドポイント · ノートブックセッション |
|
トリガータイプ |
時間スケジュール · 上流ジョブの完了 · ファイル到着 · Control-M依存関係 · API駆動の実行 |
|
クロスツール依存関係 |
OCIデータ統合タスク · OCIデータフロー実行 · オブジェクトストレージ配信 · Airflow DAG · ファイル転送 · REST APIコール |
|
クラウドプラットフォーム |
Oracle Cloud Infrastructure · OCIデータサイエンス · OCIデータ統合 · OCIデータフロー · OCIオブジェクトストレージ |
|
エラーハンドリング |
状態ポーリング · 障害耐性 · 下流のカスケード防止 · 自動ジョブ保持 · SLAアラート |
|
スループット |
バッチMLワークロード · 並列ジョブ実行 · 再現可能なパイプライン実行 · 分散データ処理 |
|
可観測性 |
ジョブ実行状況 · パイプライン実行状況 · 結果と出力 · SLAトラッキング · 依存関係の可視性 · 実行履歴 |
エンドツーエンドのオーケストレーション
Control-Mは、OCIデータサイエンス、OCIデータ統合、OCIデータフロー、オブジェクトストレージ、Airflow、ファイル転送、クラウドサービスを単一のジョブフロー内でオーケストレーションします。依存関係の追跡、SLAの可視性、およびすべての自動回復を伴います。
|
OCIデータサイエンス |
ジョブ実行を開始する · パイプライン実行を開始する · モデルデプロイエンドポイントを作成する · ノートブックセッションを作成および削除する |
|
OCIデータ統合 |
ETLタスクを実行 · ワークスペースの実行を調整 · タスクパラメータを渡す |
|
OCIデータフロー |
Spark処理を調整 · 処理の依存関係を管理 · 下流の実行を接続 |
|
OCIオブジェクトストレージ |
データの到着を調整 · 下流の実行を制御 · データ駆動型ワークフローを接続 |
|
Apache Airflow |
DAG実行を調整 · 上流の依存関係を管理 · 下流の引き渡しを接続 |
|
マネージドファイル転送 |
安全なファイル移動 · 配送依存関係 · ワークフロー調整 |
|
REST API |
API駆動の実行 · サービス間の引き渡し · ワークフロー統合 |
airflow共存
よくある異議: “私たちはすでにAirflowを使用しています。” 問題はAirflowが何をするかではなく、Airflowが実行される前後に何が起こるかです。そこがパイプラインが実際に失敗するところです。
AirflowはそのDAGを管理します。Control-Mはその周囲のすべてを管理します。
AIRFLOWが処理
control-mが追加
MLワークフローを監視する
OCIデータサイエンスは自身のジョブやパイプライン実行の可視性を提供しますが、本番MLはその境界外の作業に依存します。Control-Mは、それらの実行段階を1つの運用ビューに統合し、チームが完全なパイプラインを監視できるようにします:
ジョブおよびパイプラインのステータス
上流および下流の依存関係
ジョブの結果と出力
エンドツーエンドの実行可視性
クロスプラットフォームのワークフローステータス
SLA保証
成功したOCIデータサイエンスの実行は、それに依存するプロセスに対して遅れて到着する可能性があります。Control-Mは、エンドツーエンドの配信要件に対してワークロードを管理し、依存関係の遅延やSLAリスクを事前に明らかにし、下流の操作に干渉する前に対処します:
エンドツーエンドのSLA追跡
依存関係を意識した実行制御
予測的遅延可視性
自動例外処理
中央集中的なワークフロー監視
Control-Mがチームがより大きな可視性、調整、制御で複雑なプロセスをオーケストレーションする手助けをする方法を学ぶ。