レート制限は、アプリケーションに到達するトラフィックを制御し、高額な請求と不審なアクティビティを防ぎます。
レート制限は、特定の時間枠に送信できるリクエスト数として定義できます。たとえば、60 秒あたり 100 リクエストに制限できます。
固定 (fixed) または スライディング (sliding) のどちらの手法を使うかも選べます。レート制限では、一定時間のウィンドウ内で許可するリクエスト数を決めます。固定レートの場合、ウィンドウは時刻基準です。10 分間のウィンドウで x 件を超えるリクエストは許可されません。スライディングレートの場合、直近 10 分間で x 件を超えるリクエストは許可されません。
例として、12:00 開始で 10 分間あたり 10 リクエストの制限があるとします。固定ウィンドウは 12:00–12:10、12:10–12:20 のように区切られます。12:09 に 10 件、12:11 に 10 件送った場合、固定ウィンドウでは 20 件すべて成功します。一方、スライディングウィンドウでは、直近 10 分間に 10 件を超えるため失敗します。
許可レートを超えると、レート制限が発生します。サーバーは 429 Too Many Requests ステータスコードを返し、リクエストは処理されません。
ダッシュボードでデフォルトのレート制限を設定するには:
- Cloudflare ダッシュボード ↗ にログインし、アカウントを選択します。
- AI > AI Gateway に移動します。
- Settings に移動します。
- Rate-limiting を有効にします。
- レート、期間、レート制限の手法を必要に応じて調整します。
API でデフォルトのレート制限を設定するには:
- 次の権限を持つ API トークンを作成 します。
AI Gateway - ReadAI Gateway - Edit
- Account ID を取得します。
- その API トークンと Account ID を使い、
POSTリクエスト を送信して新しい Gateway を作成し、rate_limiting_interval、rate_limiting_limit、rate_limiting_techniqueの値を含めます。
このレート制限は、そのゲートウェイのすべてのリクエストに一律で適用されます。