robots.txtとは、Googleなどの検索エンジンのクローラーに対して、「どのURLにアクセスしていいか」を伝えるものである。 これを使えば、特定のページやフォルダのクロールを拒否できる(クロールさせない)ことができる。クローラーの動きを最適化することで、SEOの観点からも良い影響を得られる可能性がある。
![robots.txtとは?設置する理由・SEO効果・書き方を解説](https://cdn-ak-scissors.b.st-hatena.com/image/square/40fba00700e7acc83369941a80c9bbfa324fb82a/height=288;version=1;width=512/https%3A%2F%2Flucy.ne.jp%2Fbazubu%2Fwp-content%2Fuploads%2F2013%2F12%2F20160502-08.jpg)
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く