コーディングエージェントは、ユーザーに代わってプロバイダーへモデルリクエストを送ります。エージェントの向き先をプロバイダーではなく AI Gateway にすると、作業の仕方を変えずに、そのトラフィックを観測・制御できます。
コーディングエージェントを AI Gateway 経由にすると、次が得られます。
- 可観測性 — ダッシュボードで、すべてのリクエスト、トークン数、レイテンシを確認できます。
- キャッシュ — 繰り返しのプロンプトに キャッシュ済みレスポンス を返せます。
- レート制限 — レート制限 でリクエスト量に上限を設けます。
- コスト追跡 — セッションとモデルをまたいで支出を把握できます。
- Data Loss Prevention — DLP で、プロンプトとレスポンスからシークレット、認証情報、その他の機密データをスキャンします。
使っているコーディングエージェントのセットアップガイドに従ってください。
コーディングエージェントは、ソースコード、設定ファイル、スニペットを日常的にモデルプロバイダーへ送ります。そのトラフィックには API キー、顧客データ、その他の機密情報が含まれることがあります。AI Gateway はエージェントとプロバイダーの間に位置するため、エージェントを変えずに検査と制御ができます。
Data Loss Prevention (DLP) は、リクエストとレスポンスのボディを 検出プロファイル と照合し、一致をフラグ付けまたはブロックします。エージェントから出ていく(または戻ってくる)シークレット、認証情報、規制対象データの検出に使います。
ツールを設定したら、トラフィックが AI Gateway に届いていることを確認します。
-
コーディングエージェントからプロンプトを送ります。
-
Cloudflare ダッシュボードで AI Gateway ページを開きます。
AI Gateway を開く ↗ -
ゲートウェイを選び、Logs を選びます。リクエストがモデル、トークン数、レイテンシとともに表示されることを確認します。
ログの詳細は Logging を参照してください。