AI Gateway のダッシュボードには、リクエスト、トークン、キャッシュ、エラー、コストの指標が表示されます。これらの指標は時間でフィルターできます。 分析は、トラフィックパターン、トークン消費、AI プロバイダー横断の潜在的な問題の把握に役立ちます。次の分析を確認できます。
- Requests: AI Gateway が処理したリクエストの総数を追跡します。
- Token Usage: リクエスト全体のトークン消費を分析し、利用パターンを把握します。
- Costs: 異なる AI プロバイダーの利用コストを可視化し、支出の追跡、予算管理、リソース最適化に使えます。
- Errors: ゲートウェイ全体のエラー数を監視し、問題の特定とトラブルシューティングに役立てます。
- Cached Responses: キャッシュから返されたレスポンスの割合を確認します。コスト削減と速度向上に役立ちます。
ダッシュボードで分析を表示する手順は次のとおりです。
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選びます。
- AI > AI Gateway を開きます。
- ゲートウェイが選択されていることを確認します。
AI Gateway ダッシュボードの外でも、GraphQL で利用データをクエリできます。次のクエリ例を参照してください。リクエスト時には Cloudflare トークンを使い、{account_id} を自分のアカウントタグに合わせて変更します。
curl https://api.cloudflare.com/client/v4/graphql \
--header 'Authorization: Bearer TOKEN \
--header 'Content-Type: application/json' \
--data '{
"query": "query{\n viewer {\n accounts(filter: { accountTag: \"{account_id}\" }) {\n requests: aiGatewayRequestsAdaptiveGroups(\n limit: $limit\n filter: { datetimeHour_geq: $start, datetimeHour_leq: $end }\n orderBy: [datetimeMinute_ASC]\n ) {\n count,\n dimensions {\n model,\n provider,\n gateway,\n ts: datetimeMinute\n }\n \n }\n \n }\n }\n}",
"variables": {
"limit": 1000,
"start": "2023-09-01T10:00:00.000Z",
"end": "2023-09-30T10:00:00.000Z",
"orderBy": "date_ASC"
}
}'