Googleは、決してrobots.txtを無視してはいない。ユーザーにとって提示したほうがよいページであるならば、中身を見ることなく存在だけは見せるようにしているのです。その多くは、ページにリンクが張られている場合

ndiy103ndiy103 のブックマーク 2009/10/29 08:45

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

robots.txtでブロックしたページが検索結果に出るのはなぜ?

    検索エンジンのロボットのクローリングを拒否するために、robots.txtでブロックしたはずのページが、検索結果に出現することがあります。 robots.txtの指示を無視している、あるいは理解できていないのでしょうか...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう