ログ分類は、AI Gateway ログに保存されたリクエストとレスポンスの内容を分析します。対象トラフィックをタスク別に分類し、使ったモデルがタスク要件に合うかを評価します。
この結果は User Insights の Task and model analysis に使われます。ログ分類はデフォルトでオフです。ゲートウェイごとにオンにする必要があります。
AI Gateway は、デバッグ、コード計画、コード Q&A、テキスト起草、コーディングなどのタスク分類を付けます。Tasks by model チャートは、各モデルについて、これらの分類ごとのトークン使用量と推定費用の分布を示します。
AI Gateway は、タスク要件と使用モデルの能力を比較します。適合は Overkill、Appropriate、Underpowered、Could not assess に分類されます。トークン使用量または推定費用で結果を比較できます。
ログ分類をオンにすると、Cloudflare は保存済みのリクエストとレスポンスの内容を処理する場合があります。対象は次のとおりです。
- プロンプト
- モデルの応答
- リクエストメタデータ
- 関連リクエストを会話として結びつける識別子
Cloudflare はこの情報を使い、AI Gateway の分析機能向けにタスク分類とモデル適合の分類を生成します。
ログ分類は、AI Gateway や通常のログ収集の利用に必須ではありません。この設定をオンにすると、選択したゲートウェイの対象ログを、このページの説明どおりに分析できます。設定はゲートウェイ単位です。1 つのゲートウェイでオンにしても、アカウント内のほかのゲートウェイではオンになりません。
- ゲートウェイで Collect logs もオンになっている必要があります。
- Collect logs と Log classification の両方がオンのあいだに記録されたアクティビティだけが分類対象です。
- Collect logs をオフにすると、ログ分類もオフになります。
- Log classification をオフにすると、新しいゲートウェイアクティビティは分類されません。進行中の処理と、すでに生成された結果は、適用される保持および削除ポリシーの対象のままです。
-
Cloudflare ダッシュボードで AI Gateway に進みます。
AI Gateway を開く ↗ -
ゲートウェイを選択し、Settings に進みます。
-
Collect logs をオンにします。
-
Log classification をオンにします。
新しいアクティビティの分類を止めるには、ゲートウェイの Settings で Log classification をオフにします。
分類をオンにせず、ログ収集だけを続けることもできます。