OceanBaseは高性能な分散リレーショナルデータベースとして、データベース管理の簡素化、運用効率の向上、多様なIT環境とのシームレスな連携を実現するため、多くのツールを統合したエコシステムを段階的に構築してきました。本記事では、APシナリオで関わる可能性のあるツールを、データ統合、オーケストレーション、可視化などの分野を中心に、一部の製品を例に紹介します。
説明
OceanBaseデータベースの完全なエコシステム統合リストについては、エコシステム統合の概要をご参照ください。
データ統合
データ統合(Data Integration)とは、異なるソースからデータを一元的なビューに集約し、分析、レポート作成、ビジネス上の意思決定を支援するITプロセスです。データは、リレーショナルデータベース、ファイル、アプリケーション、NoSQLデータベース、クラウドストレージサービスなど、複数のシステムに分散している場合があります。
データ統合の分野において、CDC(Change Data Capture、変更データキャプチャ)は重要な技術です。これにより、前回の抽出以降に変更されたデータを特定できます。CDCが提供するデータは、履歴データベース、準リアルタイムキャッシュ、メッセージキュー(MQ)への提供、分析や監査などに利用できます。
OceanBaseデータベースのBinlogサービスはMySQLのネイティブBinlogと互換性があり、ユーザーは既存のMySQL Binlog増分解析システムを再利用してOceanBaseのMySQL互換モードテナントの増分データを同期できます。既存のデータパイプラインを変更する必要はありません。Binlogサービスの詳細については、Binlogログサービスをご参照ください。
OceanBaseデータベースは、以下の製品を含む主要なデータ統合製品と良好な互換性を保ちます。
名前 |
説明 |
関連ドキュメント |
|---|---|---|
| Flink | 大規模データの処理と分析を目的としたオープンソースフレームワーク | 詳細については、Flink CDCを使用してMySQLデータベースからOceanBaseデータベースにデータを同期するをご参照ください。 |
| Canal | データベースの同期と統合を目的とした変更データキャプチャ(CDC)フレームワーク | 詳細については、Canalを使用してMySQLデータベースからOceanBaseデータベースにデータを同期するをご参照ください。 |
| Maxwell | MySQLデータベース用の変更データキャプチャ(CDC)ツール | 詳細については、Maxwellを使用してOceanBaseデータを読み取るをご参照ください。 |
| SeaTunnel | データ移行とリアルタイムストリーム処理タスクを目的とした分散型の高性能データ統合プラットフォーム | 詳細については、SeaTunnelを使用してOceanBaseデータを読み取り、同期するをご参照ください。
注意現在はBeta版です。初期テストは完了していますが、今後、より徹底した適合性検証を進めます。 |
| Debezium | オープンソースのエンタープライズ向け汎用計算フレームワークで、複数の計算エンジンのタスクスケジューリングと管理をサポートします | 詳細については、Debeziumを使用してOceanBaseデータを読み取り、同期するをご参照ください。 |
| DataX | オフラインデータ同期ツール/プラットフォーム | 詳細については、DataXを使用してCSVファイルをOceanBaseデータベースに移行するをご参照ください。 |
オーケストレーションとスケジューリング
データ統合(Data Integration)の分野において、オーケストレーション(Orchestration)ツールとは、異なるデータ処理タスクやデータフローを管理、スケジューリング、調整できるソフトウェアツールを指します。これらのツールは、データ抽出(Extract)、変換(Transform)、ロード(Load、ETLプロセス)などのデータ統合活動、およびデータクレンジング、検証、配信などのタスクを組織し、実行するための高度な方法を提供することが一般的です。
名前 |
説明 |
関連ドキュメント |
|---|---|---|
| DolphinScheduler | 多様なタスクタイプをサポートするオープンソースの分散型ワークフロータスクスケジューリングシステム | 詳細については、DolphinSchedulerにOceanBaseデータソースを設定するをご参照ください。
注意現在はBeta版です。初期テストは完了していますが、今後、より徹底した適合性検証を進めます。 |
| Linkis | オープンソースのエンタープライズ向け汎用計算フレームワークで、複数の計算エンジンのタスクスケジューリングと管理をサポートします | 詳細については、LinkisとOceanBaseデータベースの連携をご参照ください。 |
可観測性
可観測性(Observability)とは、一般的に、データ処理プロセスやシステム状態を監視、追跡、診断、理解する能力を指します。複雑なデータパイプラインやデータシステムにおいて、高い可観測性を維持することは非常に重要です。これにより、運用保守チームは発生した問題を迅速に検出し対応することができ、システムの健全性とパフォーマンスを維持できます。
同時に、データ品質もデータ統合プロセスにおける重要な構成要素であり、同様に高い可観測性が求められます。データ品質可観測性ツールにより、チームはデータの正確性、一貫性、完全性を検証し、データが期待される基準に適合しているか監視することができます。これにより、ビジネス上の意思決定が信頼できるデータに基づいて行われることが保証されます。
名前 |
説明 |
関連ドキュメント |
|---|---|---|
| Prometheus | 信頼性と多次元データ収集を目的として設計された強力なオープンソースシステム監視・アラートツールキットで、サービスやアプリケーションの健全状態を監視するために広く利用されています | 詳細については、Prometheusを使用してOceanBaseデータを監視するをご参照ください。 |
可視化
データ統合分野における可視化ツールとは、ユーザーがグラフやチャートの形でデータを表現し、理解し、コミュニケーションを取ることを支援するソフトウェアツールを指します。これらのツールは通常、データ統合プロセスからデータを取得し、直感的なビューに変換する機能を提供しており、技術者でないユーザーでもデータの背後にある傾向やパターンを把握できるようにします。
名前 |
説明 |
関連ドキュメント |
|---|---|---|
| Superset | データ探索と可視化を目的としたオープンソースのビジネスインテリジェンスツール | 詳細については、SupersetとOB Cloudクラウドデータベースを使用したデータ分析をご参照ください。 |
| QuickBI | 使いやすいデータ可視化および分析ツールで、迅速なデータレポートの生成をサポートします | 詳細については、Quick BIでOB Cloudクラウドデータベースに接続するをご参照ください。 |
| Tableau | 直感的なデータ可視化ツールで、インタラクティブで共有可能なレポートを作成するために使用されます | 詳細については、TableauでOB Cloudクラウドデータベースに接続するをご参照ください。 |
| PowerBI | Power BIを使用すると、データソースに簡単に接続し、重要な内容を可視化して発見し、必要に応じて誰とでも共有できます。 | 詳細については、Power BIでOceanBaseに接続してデータを取得するをご参照ください。 |
| 观远 BI | 观远 BIを使用すると、OceanBaseデータベースに簡単に接続してデータを表示できます。 | 詳細については、观远 BIでOceanBaseデータベースに接続するをご参照ください。 |
| 永洪 BI | 永洪 BIを使用すると、vividime V11でOceanBaseデータベースに接続してデータを表示できます。 | 詳細については、vividimeでOceanBaseデータベースに接続するをご参照ください。 |