Internet Archive 連携付きの Always Online を有効にするときは、次のベストプラクティスを守ります。
- Internet Archive の IP アドレスからのリクエストを許可します。 オリジンサーバーは Internet Archive の IP からリクエストを受け取ります。次の Internet Archive IP 範囲からのリクエストをブロックしていないことを確認してください:
207.241.224.0/20と208.70.24.0/21。 - Internet Archive はオリジンサーバーの cache-control ヘッダーを考慮しません。 Internet Archive がサイトをクロールするとき、cache-control に関係なくクロールします。Internet Archive はアセットをキャッシュせず、アーカイブするためです。
- URI を変換する Cloudflare 機能との競合に注意します。 Internet Archive 連携付きの Always Online は、Internet Archive がページをアーカイブするときのクロール方法により、Cache Rules や URI を変換するほかの Cloudflare 機能と問題が起きることがあります。特に、エッジで行われる一部のリダイレクトにより、Internet Archive のクローラーが対象 URL をアーカイブできない場合があります。Origin Cache Control を有効にする前に、Cloudflare のデフォルトのキャッシュ動作 と、設定済みの Cache Rules を確認して、これらの問題を避けてください。問題が起きた場合は Always Online を無効にします。
- WAF カスタムルールで Known Bots または Verified Bots をブロックしないでください。 これらのボットリストのいずれかをブロックすると、Internet Archive はクロールできません。
次の用途では Always Online を使わないでください。
- API トラフィック。
- 米国をブロックする IP Access rule または WAF カスタムルール
- Bypass Cache のキャッシュルール。Always Online は Bypass Cache のキャッシュルールを無視し、Always Online のキャッシュ済みアセットを配信します。
Always Online の機能には、次の制限があります。
- 最近追加したサイトでは、Always Online はすぐには有効になりません。理由は次のとおりです。
- DNS レコードの伝播に 24〜72 時間かかることがある
- Always Online がまだサイトを初回クロールしていない
- オリジンウェブサーバーがオフラインの場合、Cloudflare はログインの背後にある非公開コンテンツを表示できません。また、フォーム送信(POST)も扱えません。
Always Online は、404、503、500 などの HTTP 応答コードでは発動しません。データベース接続エラーや内部サーバーエラーも同様です。これらのステータスコードは、オリジンに到達でき、応答していることを示すためです。Always Online が作動するのは、Cloudflare がオリジンにまったく接続できないときだけです(Cloudflare が生成する 520–527 ステータスコードになります)。オリジンが 5xx エラーを返す場合、オリジンは定義上オンラインであり、Always Online は介入しません。
-
ページがクロールされたかは、どうすれば分かりますか?
- Internet Archive ↗ でページ URL を検索すると、クロール済みかどうかを確認できます。
- Internet Archive Availability API ↗ でも確認できます。
-
ページ x、y、z がクロールされなかったのはなぜですか?
- Cloudflare はサイトで最も人気のあるページだけをクロール対象として依頼するため、欠けているページがあることがあります。どうしてもアーカイブしたいページがある場合は、Internet Archive ↗ の保存ページを開き、そのページのクロールを依頼できます。
-
クロールを確実にするため、どの IP アドレスを許可リストに入れる必要がありますか?
- IP 範囲:
207.241.224.0/20と208.70.24.0/21。この IP 範囲は Cloudflare ではなく Internet Archive のものです。クロールを行うのは Internet Archive です。
- IP 範囲:
-
オリジンが受け取る User-Agent は何ですか?
- 現在、Internet Archive は次を使います:
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/605.1.15 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/605.1.15。
- 現在、Internet Archive は次を使います: