User Insights（ユーザーインサイト）ダッシュボードでは、組織の AI 支出、その支出の責任を持つ ID、通常の利用から外れているユーザーを確認できます。ゲートウェイをすでに通過しているトラフィックを使うため、追加のセットアップは不要です。
User Insights は、すべての AI Gateway のお客様が追加料金なしで利用できます。ゲートウェイを通るトラフィックであれば対象です。リクエストに ID やカスタムメタデータがない場合、利用はすべて 1 つの匿名識別子にまとまり、User Insights は個々のユーザーを区別できません。
利用を個々のユーザーに紐付けるには、カスタムメタデータ でユーザー識別子を付けるか、ゲートウェイを Cloudflare Access の背後に置きます。Access を使うと、認証済みの各リクエストに検証済みの ID が付き、支出と分析をその ID でフィルターできます。
User Insights ページの上部では、選択した期間について、次の組織全体の指標を確認できます。
- Active users: ゲートウェイを利用した ID です。
- Total requests: この期間のゲートウェイリクエスト数です。
- Adoption rate: リクエストが 1 件以上ある IdP の ID です。
- Tokens per active user: この期間の中央値です。
- Median spend / active user: 紐付けられた ID あたりの観測支出です。
- Top 10% request activity: 最もアクティブなユーザーが占めた、紐付け済みリクエストの割合です。
- Users to review: コストが中央値支出の 2 倍以上のユーザーです。
- Identity coverage: ユーザーに紐付けられたリクエストの割合です。
User Insights は、各ユーザーの通常の利用をベースラインにし、そこから外れたセッションにフラグを付けます。侵害された認証情報や、想定どおりに動いていないエージェントの兆候になることがあります。
ベースラインはリクエスト単位ではなく、セッション単位で算出します。各ユーザーについて、User Insights は直近 30 日間のセッションコストの 95 パーセンタイル（p95）を使います。ベースラインはローリングで、利用の変化に合わせて更新されます。
セッションにフラグが付くのは、次のしきい値を両方超えたときです。
- Relative: そのユーザー自身の p95 セッションコストの 2 倍を超える。
- Absolute: 全ユーザーを対象にした、組織レベルの p99 セッションコストを超える。
両方のしきい値を満たす必要があります。利用の少ないユーザーの小さなスパイクや、ヘビーユーザーの日常的な高コストセッションにフラグが付くのを避けます。
フラグが付いたユーザーは、フラグのきっかけになったセッションとコスト付きのフィルター済みビューに表示されます。User Insights はリクエストをブロックしません。
ユーザーを選択すると、その利用の詳細を確認できます。
- Spend: この期間のユーザーの観測支出合計です。
- Requests: ユーザーが送ったゲートウェイリクエストの合計です。
- Tokens: ユーザーが消費したトークンの合計です。
- Gateway cached requests: キャッシュから返されたリクエスト数です。
- Errored requests: エラーを返したリクエスト数です。
- Cache hit rate: キャッシュから返されたリクエストの割合です。
- Sessions: リクエストメタデータから算出したおおよそのセッション数です。
- Top model: ユーザーが最も多くリクエストを送ったモデルです。
- Top provider: ユーザーが最も多くリクエストを送ったプロバイダーです。
- Last seen: 直近のアクティビティです。日次の支出トレンドから算出します。
- Active days: この期間にユーザーがトラフィックを送った日数です。
- Identity coverage: ユーザーのリクエストのうち、ID に紐付いている割合です。