AIサービスは、OB Cloudクラウドデータベースが提供する統一された大規模言語モデルへのアクセスおよび呼び出し機能です。AIサービスを利用することで、単一のコンソールポータルからモデル設定、APIキー管理、モデル呼び出し、利用状況の観測を一貫して行えます。また、OpenAI、Anthropic、Vertex AIと互換性のあるインターフェースを基盤として、大規模言語モデルの機能をアプリケーションシステムやデータベースの内部処理フローに迅速に統合できます。
説明
現在の機能はホワイトリスト方式で提供されています。利用を希望する場合は、OceanBaseのテクニカルサポートにお問い合わせください。
AIサービスとは
AIサービスは、大規模言語モデルの機能を取り入れたい開発者、データエンジニア、アプリケーションチーム向けに、統一されたモデルアクセス層と呼び出しポイントを提供します。異なるモデルベンダー間のインターフェースの違いを抽象化し、モデル設定、呼び出し認証情報、データベース内での呼び出し、呼び出し統計を一貫した操作フローで管理できるよう支援します。
AIサービスを活用することで、アプリケーション側ではHTTP APIを通じてモデルを呼び出すことも、OceanBaseデータベース内ではSQLやAI Functionを通じて直接モデル機能を利用することも可能です。これにより、Q&A、生成、ベクトル検索、再ランキング、インテリジェント分析などの機能をより効率的に構築できます。
AIサービスは主に以下の側面で機能を提供します：
モデル設定：異なるAIタスクごとにデフォルトモデルを設定し、後続の統一的な呼び出しを容易にします。
APIキー管理：アプリケーション、セキュリティサービス、または統合タスクがAIサービスにアクセスするためのAPIキーの作成と管理を行います。
多様な呼び出し方法：APIを通じたモデル呼び出しに加え、データベースシナリオにおいてSQLやAI Functionを通じたモデル機能の利用もサポートします。
データベースへのモデル登録：データベースにAIモデルを登録するために必要なSQLを生成し、データベース側でのモデル登録と有効化を容易にします。
多様なインターフェースプロトコルとの互換性：OpenAI、Anthropic、Vertex AIと互換性のあるAPIインターフェースを提供し、既存のアプリケーションのアクセス方法やSDKの使い勝手をそのまま活用できます。
利用状況の可観測性：トークン使用量、モデルレベルの統計、APIキーレベルの統計を提供し、呼び出し状況とリソース消費の分析を支援します。
適用シナリオ
AIサービスは以下のシナリオに適しています：
アプリケーションによる大規模言語モデルサービスへのアクセス：アプリケーションがAPIキーを使用してモデルを呼び出し、テキスト生成、要約、Q&A、分類などの機能を迅速に実装します。
データベース内でのAI処理：OceanBaseのAI Functionと組み合わせ、SQL内で直接モデルを呼び出し、データ分析、抽出、要約、ベクトル化、再ランキングなどの機能を実現します。
ベクトル検索とハイブリッド検索：ベクトル機能と大規模言語モデル機能を組み合わせ、意味検索、RAG、インテリジェント推薦などのアプリケーションを構築します。
多様なモデル呼び出しの統一管理：統一されたモデル設定と互換性のあるインターフェースにより、異なるモデルベンダー間の重複するアクセス作業を削減します。
利用状況分析とコスト管理：モデル統計とAPIキー統計を通じて、モデルの選択、呼び出し頻度、リソース投入を継続的に最適化します。
メリット
複数のモデルベンダーと直接連携する方法と比較して、AIサービスには以下のメリットがあります：
統一エントリポイントによる接続サイクルの短縮：モデル設定、呼び出し認証情報、呼び出し方法、統計分析をすべて同一のエントリポイントで行えるため、複数のモデルプラットフォームに個別に対応する必要がなく、テストから本番への接続作業をより迅速に完了できます。
高いプロトコル互換性による開発コストの削減：OpenAI、Anthropic、Vertex AIスタイルのインターフェースに互換性があり、既存コードの迅速な移行と再利用が容易です。これにより、インターフェースの適合、認証処理、呼び出しフローに関する重複した開発作業を削減できます。
アプリケーションとデータベースの二重パスによるビジネス導入効率の向上：アプリケーション層の統合にも、データベース内のオンプレミス呼び出しにも適しており、アプリケーション開発、データベース処理、ベクトル検索を同一のサービス能力を基盤に迅速に組み合わせることができます。
より効率的なモデル選定と継続的な拡張性：デフォルトモデルの設定、ベンダーモデルリストの確認、呼び出し例の参照が可能で、モデル選定と試行錯誤にかかるコストを削減できます。今後、より多くのモデル、シナリオ、呼び出し元への接続が必要になった場合でも、既存の管理・呼び出し方法をそのまま活用してスムーズに拡張できます。
運用保守とガバナンスの明確化によるリソース制御性の強化：APIキーとモデルの観点から統計を取ることで、呼び出し元、リソース消費、異常な変動をより容易に特定でき、権限分離、コスト分析、リソース最適化もより便利に行えます。