自分のドメイン名にあるページにロボットをアクセスさせないための手段として、robots.txtを採用しているWebサイトが結構ある。確かにいいやり方だけど、僕らの元に寄せられる質問を見ていると、robots.txtを使ってグーグルやヤフー、MSNといった検索エンジンのロボットを排除するとは一体どういうことなのかってことに関して、少々誤解があるようだ。以下に、ロボットの排除方法をざっと分類してみよう。 robots.txt ―― URLへの訪問はさせないが、URL自体をインデックスに取り込んで検索結果ページ(SERP)に表示するのは許可する(よくわからない人は、下の例を見てほしい)。 メタタグ(meta要素)のnoindex ―― 訪問は許可するが、URLのインデックス化や、SERPへの表示はさせない。 nofollow属性の付いたリンク ―― 賢いやり方ではない。あるリンクにnofollo
![「SEOの意外な裏技」その10:robots.txtでリンクジュースの受け渡しをうっかりブロックしないために | Moz - SEOとインバウンドマーケティングの実践情報](https://cdn-ak-scissors.b.st-hatena.com/image/square/f21aa3679d6c13614b42d2b4025093d85af870be/height=288;version=1;width=512/https%3A%2F%2Fwebtan.impress.co.jp%2Fsites%2Fdefault%2Ffiles%2Fstyles%2F1200x630%2Fpublic%2Fimages%2Fseomoz%2Fseomoz_icon120-04.gif%3Fitok%3Dx4eFxYPA)