3大サーチエンジン企業の、Google、Yahoo!、Microsoft(MSN Live Search)は、robots.txtとmeta robotsタグの取り扱いについて、共通の仕様を取りまとめました。 Robots Exclusion Protocol (REP)と言います。 ※日本語訳は「ロボット排除プロトコル」 各サーチエンジンのブログでアナウンスされています。 Official Google Webmaser Central Blog Improving on Robots Exclusion Protocol Yahoo! Search Blog One Standard Fits All: Robots Exclusion Protocol for Yahoo!, Google and Microsoft Live Search Webmaster Center Blog