AIサービスは、OceanBase Cloudが提供する統一された大規模言語モデルへのアクセスおよび呼び出し機能です。AIサービスを利用することで、単一のコンソールポータルからモデル設定、API Key管理、モデル呼び出し、利用状況の観測を一貫して行えます。また、OpenAI、Anthropic、Vertex AIと互換性のあるインターフェースに基づき、大規模言語モデルの機能をアプリケーションシステムやデータベースの内部処理フローに迅速に統合できます。
説明
現在の機能は許可リスト方式で提供されています。利用を希望する場合は、OceanBaseのテクニカルサポートにお問い合わせください。
AIサービスとは
AIサービスは、大規模言語モデルの機能を活用したい開発者、データエンジニア、アプリケーションチーム向けに、統一されたモデルアクセス層と呼び出しエントリーを提供します。異なるモデルベンダー間のインターフェースの違いを抽象化し、モデル設定、呼び出し認証情報、データベース内でのモデル呼び出し、呼び出し統計を一貫した操作フローで管理できます。
AIサービスを利用することで、アプリケーション側ではHTTP APIを通じてモデルを呼び出すことも、OceanBaseデータベース内ではSQLやAI Functionを通じて直接モデル機能を利用することも可能です。これにより、Q&A、生成、ベクトル検索、再ランキング、インテリジェント分析などの機能をより効率的に構築できます。
AIサービスは主に以下の機能を提供します：
モデル設定：異なるAIタスクに対してデフォルトモデルを設定し、後続の統一的な呼び出しを容易にします。
API Key管理：API Keyの作成と管理を行い、アプリケーション、セキュリティサービス、または統合タスクがAIサービスにアクセスできるようにします。
多様な呼び出し方法：APIを通じたモデル呼び出しに加え、データベースシナリオにおいてSQLやAI Functionを通じたモデル機能の利用もサポートしています。
データベースへのモデル登録：データベースへのAIモデル登録に必要なSQLを生成する機能をサポートしており、データベース側でのモデル登録と有効化を容易にします。
多様なインターフェースプロトコルとの互換性：OpenAI、Anthropic、Vertex AIと互換性のあるAPIインターフェースを提供し、既存のアプリケーションアクセス方法やSDKの使い方をそのまま活用できます。
利用状況の可観測性：トークン使用量、モデル別統計、API Key別統計を提供し、呼び出し状況とリソース消費の分析に役立ちます。
適用シナリオ
AIサービスは以下のシナリオに適しています：
アプリケーションによる大規模言語モデルサービスへのアクセス：アプリケーションがAPI Keyを通じてモデルを呼び出し、テキスト生成、要約、Q&A、分類などの機能を迅速に実装します。
データベース内でのAI処理：OceanBaseのAI Functionと組み合わせ、SQL内で直接モデルを呼び出し、データ分析、抽出、要約、ベクトル化、再ランキングなどの機能を実現します。
ベクトル検索とハイブリッド検索：ベクトル機能と大規模言語モデル機能を組み合わせ、意味検索、RAG、インテリジェントレコメンデーションなどのアプリケーションを構築します。
多様なモデル呼び出しの統一管理：統一されたモデル設定と互換性のあるインターフェースにより、異なるモデルベンダー間の重複するアクセス作業を削減します。
利用状況分析とコスト管理：モデル統計とAPI Key統計を通じて、モデル選択、呼び出し頻度、リソース投入を継続的に最適化します。
メリット
複数のモデルベンダーと直接連携する方法と比較して、AIサービスには以下の利点があります：
統一ポータルによるアクセス期間の短縮：モデル設定、呼び出し認証情報、呼び出し方法、統計分析が一元的に管理されており、複数のモデルプラットフォームに個別に対応する必要がないため、テストから本番運用までのアクセス作業をより迅速に完了できます。
プロトコルの高い互換性による開発コストの削減：OpenAI、Anthropic、Vertex AIスタイルのインターフェースと互換性があり、既存コードの迅速な移行と再利用が容易で、インターフェース適応、認証処理、呼び出しプロセスにおける重複開発を削減できます。
アプリケーションとデータベースの二重アクセス経路によるビジネス導入効率の向上：アプリケーション層への統合にも、データベース内でのオンザフライ呼び出しにも適しており、アプリケーション開発、データベース処理、ベクトル検索を同一のサービス機能を中心に迅速に組み合わせることができます。
より効率的なモデル選定と継続的な拡張性：デフォルトモデルの設定、ベンダーモデルリストと呼び出し例の確認をサポートしており、モデル選定と試行錯誤にかかるコストを削減します。今後、より多くのモデル、シナリオ、呼び出し元へのアクセスが必要になった場合でも、既存の管理・呼び出し方法を踏襲してスムーズに拡張できます。
運用保守とガバナンスの明確化によるリソース制御性の強化：API Key別統計とモデル別統計により、呼び出し元、リソース消費、異常変動をより容易に特定でき、権限分離、コスト分析、リソース最適化をより簡単に行えます。