ホーム 経験・テクニック共有 標準記事

標準記事

Bingなどの検索エンジンのクロール頻度を制限してサーバー負荷を軽減

サイトのトラフィックに大きな増加がないのにサーバーが遅い場合、どこかに問題がないか検討する必要があります。通常、サイトのアップグレードや技術的変更がない場合、問題は外部にあります。例えば、サイトがスクレイピングされている、または検索エンジンが過剰にクロールしているなどです。Naiba がサーバー監視情報を確認したところ、CPU 使用率が非常に高いことがわかりました。下図参照。以下…

2020年12月7日更新 約2分で読めます
限制Bing等搜索引擎抓取频率降低服务器负载

サイトのトラフィックに大きな増加がないのにサーバーが遅い場合、どこかに問題がないか検討する必要があります。通常、サイトのアップグレードや技術的変更がない場合、問題は外部にあります。例えば、サイトがスクレイピングされている、または検索エンジンが過剰にクロールしているなどです。

Naiba がサーバー監視情報を確認したところ、CPU 使用率が非常に高いことがわかりました。下図参照。

CPU服务器负载

ウェブサイトのログを分析した結果、Bingのボットによるクロールが頻繁すぎることが判明したため、これを解決する必要があります。

解決策は、Bingのクロール頻度を制限することです。

方法1:管理者ダッシュボードで設定

bing webmaster

Bing Webmasterツールに登録済みの場合、ダッシュボードでCrawl Controlメニューを見つけ、右側でクロール頻度を設定できます。

方法2:robots.txtファイルで設定

robots.txtが何かわからない場合は、まずこちらをお読みください:robots.txtとは_WordPressの正しいrobotsの書き方と生成ツール

robots.txtにcrawl-delayというパラメータを追加することができます。

User-agent: *
Crawl-delay: 1

上記のコードは、すべての検索エンジンのクロール頻度を「遅い」に制限します。

Crawl-delay を設定しない場合、検索エンジンが自らクロール頻度を決定します。

この値は 1、5、10 に設定でき、それぞれ「遅い」「非常に遅い」「極めて遅い」に対応します。

Googleや百度などの他の検索エンジンの場合も、それぞれのウェブマスターツールでクロール頻度を設定できますし、robots.txtファイルで設定することもできます。比較すると、robots.txtの方が効果が現れるまでに時間がかかることがあります。

3.1/5 - (11 票)
前の記事 Astraテーマの検索ボックスを呼び出すショートコード 同じタイムラインの近くのコンテンツを読み続ける。 次の記事 CentOS 8にscreenをインストールする方法 次の関連チュートリアルや経験を表示する。

AIサイト構築アシスタント

🤖
こんにちは!私はNaibaサイト構築ノートのAIアシスタントです。何かお手伝いできることはありますか?
クイックコンサルティング: