使用状況統計ページは、指定された期間内のAIサービスのリソース消費状況を表示するために使用されます。この記事では、トークンの総数、無料トークン、有料トークン、およびモデルとAPIキーの観点からの呼び出し分布を確認できるため、AIサービスの実際の使用状況を把握し、コスト分析とリソース最適化を支援します。
上部ナビゲーションバーの組織アカウント名をクリックしてプロジェクトページに移動し、左側のナビゲーションバーの使用状況統計をクリックして使用状況統計ページに移動します。使用状況統計ページは、主にフィルターエリア、タブナビゲーションエリア、トークン使用量統計エリア、モデル統計エリア、APIキー統計エリア、およびリクエスト統計エリアで構成されています。
タブナビゲーションエリア
ページ上部には、Tokensと**リクエスト**の2つのタブがあり、異なる統計ビュー間で切り替えることができます:
Tokens:トークン使用量関連データを確認できます。これには、総量、無料量、有料量、AIツール使用量及び消費傾向、モデル統計、APIキー統計情報が含まれます。
リクエスト:リクエスト呼び出し関連データを確認できます。これには、リクエスト回数、平均応答時間及びリクエスト傾向が含まれ、ツールやメモリの観点から詳細に見ることもできます。
フィルターエリア
ページ上部には通常、時間範囲と統計対象のフィルタリング機能が提供されており、指定した期間内のAIサービス使用データを確認しやすくなっています。
一般的なフィルタオプションには以下のものがあります:
時間範囲:例えば、直近7日間、またはカスタムの開始・終了時間などです。
統計対象:例えば、プロジェクトごとに使用量データを確認する場合などです。
プロジェクト:プロジェクトを切り替えて、異なるプロジェクトの使用量を確認できます。
これらのフィルタ条件を使用することで、異なる時間窓とビジネス範囲からAIサービスの使用傾向を分析できます。
トークン使用量統計エリア
トークン使用量統計エリアは、現在のフィルタ条件での全体的なリソース使用状況を集計して表示するために使用され、通常以下の指標が含まれます:
総トークン:選択された時間範囲内に消費されたトークンの総量を表します。
無料トークン:無料枠内で消費されたトークン数を表します。
有料トークン:無料枠を超えた場合、または課金ルールに基づいて料金が発生したトークン数を表します。
AIツール使用トークン:AIツールを通じて消費されたトークン数を表します。
モデル:モデルを切り替えることができ、異なるモデルのトークン使用量を確認することができます。
このエリアには通常、トークン消費傾向グラフも提供され、時間軸上でトークン使用量の変化を示し、ピーク時帯、変動周期、異常な消費を特定するのに役立ちます。
モデル統計エリア
モデル統計エリアは、モデルの観点からトークン使用状況を確認するために使用され、異なるモデルの呼び出し分布とリソース消費特性を分析するのに役立ちます。
このセクションには通常、以下の情報が表示されます:
モデル:現在呼び出されているモデル名。
ベンダー:モデルが属するベンダーまたはアクセス元。
入力トークン:リクエストの入力内容で消費されたトークン数。
キャッシュ入力トークン:キャッシュヒットした入力トークン数。
出力トークン:モデルが生成した内容で消費されたトークン数。
APIキー統計セクション
APIキー統計セクションでは、APIキーごとの呼び出し状況を確認でき、異なるアプリケーション、サービス、またはチームの利用状況の違いを分析するのに役立ちます。
このセクションには通常、以下の情報が表示されます:
APIキー名:異なる呼び出し元を区別するために使用されます。
トークン使用量:そのAPIキーが集計期間内に生成したトークンの消費量。
リクエスト:そのAPIキーが集計期間内のリクエスト回数。
リクエスト統計セクション
タブナビゲーションエリアで**リクエスト**をクリックすると、リクエスト統計ビューに移動します。このビューはAIサービスのリクエスト呼び出し状況を表示し、リクエスト頻度や応答パフォーマンスなどの指標を分析するのに役立ちます。
リクエスト統計セクションの上部には、**ツールとメモリ**の2つのサブタブがあり、異なる観点からのリクエストデータを確認できます:
ツール:AIツール関連のリクエストの呼び出し状況を確認します。
メモリ:AIメモリ空間関連のリクエストの呼び出し状況を確認します。**メモリサブタブを選択すると、フィルターエリアで具体的なメモリスペース**を選択してフィルタリングできます。
このセクションには通常、以下の指標が表示されます:
リクエスト数:指定された時間範囲内に発生したリクエストの合計数。
平均応答時間:すべてのリクエストの平均応答時間。単位はミリ秒(ms)で、サービスのパフォーマンス評価に使用されます。
さらに、このセクションには リクエスト数の傾向 グラフが提供され、時間軸に沿ってリクエスト数の変化を示しており、リクエストのピーク時、オフピーク時、および異常な変動を特定するのに役立ちます。
適用シナリオ
使用量統計は以下のシナリオに適用されます:
全体のリソース消費の確認:AIサービスの特定の時間範囲内の全体的な使用状況を迅速に把握する。
モデル使用分布の分析:異なるモデルの呼び出し頻度とトークン消費量の差異を評価する。
ビジネス呼び出し元の追跡:APIキーの観点から、異なるアプリケーションやチームの実際の利用状況を識別します。
リクエストパフォーマンスの監視:リクエスト統計ビューでリクエスト数と平均応答時間を確認し、サービスのパフォーマンスと安定性を評価します。
コスト最適化の支援:無料トークンと有料トークンのデータおよびAIツールの使用状況を組み合わせて、モデルの選択と呼び出し戦略を最適化します。
使用上の推奨事項
トークン消費の傾向を定期的に確認し、異常な増加やピーク値の変動を早期に発見することを推奨します。
モデル統計とAPIキー統計を組み合わせて分析し、総量だけを見て具体的な出所を見落とさないようにすることを推奨します。
異なる業務システムごとに独立したAPIキーを作成し、今後の詳細な使用量分析を容易にすることを推奨します。
特定のモデルの出力トークンが長期にわたって高い場合、プロンプト設計、呼び出し頻度、またはモデルの選定が適切かどうかをさらに評価することを推奨します。
リクエストビューの平均応答時間を定期的に確認し、パフォーマンスボトルネックやサービス異常を早期に発見することを推奨します。
リクエストビューでツールとメモリのサブディメンションごとのリクエスト状況を個別に確認し、異なる機能モジュールの呼び出し特性と潜在的な問題を特定することを推奨します。