一般的なお問い合わせと所在地情報
お問い合わせ一般的なワークフローの問題
これらは稀なケースではありません。これらは、複数のツールでMicrosoft MSSQLパイプラインを運営しているチームにとっての通常の運用条件です。Control-Mがそれぞれをどのように処理するか見てみましょう。
遅延ファイル到着
Control-Mは、実際の上流ファイル到着に基づいてMSSQLジョブを依存させます。独立したスケジュールではなく、前提条件が満たされたときにのみストアドプロシージャが開始され、データベースワークフローに不完全なデータが入るのを防ぎます。
SSIS失敗
Control-MはSSISパッケージをエンドツーエンドのワークフローの一部として監視し、その完了ステータスを検出し、下流の依存関係を適切に制御します。失敗した処理は、依存するMSSQL作業を静かに解放することはなく、失敗を伝播する前に含めます。
接続失敗
Control-Mはデータベース接続が失敗したときに構成可能な接続再試行回数と再試行タイムアウトを適用します。手動の介入を即座に必要とする代わりに、一時的な接続問題は自動的に再試行できます — SQL Serverが再び到達可能になるときに夜間処理を維持します。
クロスツール依存関係
Control-MはMSSQL実行を同じワークフロー内の下流処理に接続します。データベースステップの完了は次のジョブへの明示的な依存関係となります — 切り離されたスケジュールをデータパイプライン全体で調整されたハンドオフに置き換えます。
SLAリスク
Control-Mは、データベース完了を最終結果として扱うのではなく、エンドツーエンドのワークフロー内でMSSQL処理を追跡します。チームは完全な処理チェーン全体で依存関係とSLAの約束を監視でき、ビジネスの締切が逃される前に納品リスクを明らかにします。
Control-M + Microsoft MSSQL
|
ワークロードタイプ |
ストアドプロシージャ · SQL スクリプト · 埋め込みクエリ · SSIS パッケージ · MSSQL エージェントジョブ |
|
トリガータイプ |
ファイル到着 · 上流ジョブ完了 · 時間スケジュール · Control-M イベント · クロスワークフロー依存関係 |
|
クロスツール依存関係 |
SSIS パッケージ完了 · Azure Blob ファイル到着 · Power BI リフレッシュ · Airflow DAG · REST API コール · ファイル配信確認 |
|
クラウドプラットフォーム |
Microsoft SQL Server · Microsoft Azure · ハイブリッド環境 · Control-M SaaS · オンプレミスの Control-M |
|
エラーハンドリング |
接続リトライ (1–24 回の試行) · 接続リトライタイムアウト (1–300 秒) · 依存関係の失敗処理 · ダウンストリームカスケード防止 · ジョブの再実行 · SLA モニタリング |
|
スループット |
同時データベース接続 · 1–512 接続制限 · 並列データベースジョブ · 中央集中型接続プロファイル · リモートデータベース実行 |
|
可視性 |
ジョブ実行状況 · ジョブ出力 · 依存関係の可視性 · SLA トラッキング · 中央集中型ワークフローモニタリング · 実行履歴 |
エンドツーエンドオーケストレーション
Control-M は、Microsoft MSSQL、SSIS、Airflow、Azure Blob Storage、Power BI、およびファイル転送にまたがるワークフローを単一のジョブフローで調整します。これにより、依存関係の追跡、SLA の可視性、および自動回復が可能になります。
|
Microsoft MSSQL |
ストアドプロシージャ · SQL スクリプト · 埋め込みクエリ · データベース実行 |
|
SSIS |
パッケージ実行 · パッケージ依存関係 · ワークフロー調整 |
|
Azure Blob Storage |
ファイル到着 · 上流データ依存関係 · 転送調整 |
|
Apache Airflow |
DAGトリガー · ステータストラッキング · クロスワークフロー依存関係 |
|
Power BI |
データセット更新 · 下流分析ハンドオフ · ワークフロー調整 |
|
ファイル転送 |
管理転送 · 到着検出 · 配信確認 |
airflowの共存
反対意見は一般的です:「私たちはすでにAirflowを使用しています。」問題はAirflowが何をするかではなく、Airflowが実行される前後に何が起こるかです。それがパイプラインが実際に失敗する場所です。
AirflowはそのDAGを管理します。Control-Mはそれを取り囲むすべてを管理します。
airflowは処理します
control-mが追加されます
パイプラインを監視
SQL Serverはデータベース内で何が起こったかを示しますが、データチームはそれを取り巻くシステム全体の可視性を必要とします。Control-Mは上流と下流のワークフローコンテキストを持つMSSQL実行を集中管理することで、チームが完全なパイプラインを監視できるようにします:
データベースジョブ実行状況
ジョブ出力とランタイム
上流および下流依存関係
クロスプラットフォームワークフロー状況
SLAリスク可視性
SLA保証
成功したストアドプロシージャは、完全なデータプロダクトが時間通りに到着したことを意味しません。Control-Mは、MSSQLジョブをそのエンドツーエンド依存関係チェーン内で管理し、チームが全体のワークフローが配信の約束に沿っているかどうかを追跡できるようにします:
エンドツーエンドSLA追跡
ツール間依存関係の可視性
ワークフロー完了監視
失敗した依存関係の封じ込め
集中型例外管理
Control-Mがチームに、より大きな可視性、調整、制御を持って複雑なプロセスをオーケストレーションする方法を学びます。