Googleやbingといった検索エンジンがさまざまなサイトの情報を検索できるのは、クローラーと呼ばれるボットが自動的にサイトを巡回するおかげ。このクローラーによるサイト巡回をサイトの管理者側で制御するために必要なのが「robots.txt」と呼ばれるテキストファイルです。20年以上使われながらも正式に標準化されていなかったrobots.txtについて、Googleがインターネット標準化にむけて動き出しています。 draft-rep-wg-topic-00 - Robots Exclusion Protocol https://tools.ietf.org/html/draft-rep-wg-topic-00 Official Google Webmaster Central Blog: Formalizing the Robots Exclusion Protocol Specifica
![Googleがウェブサイト管理に欠かせない「robots.txt」のインターネット標準化を推進](https://cdn-ak-scissors.b.st-hatena.com/image/square/0769e3780aa6082913a063f14f6e6a81f92e47a3/height=288;version=1;width=512/https%3A%2F%2Fi.gzn.jp%2Fimg%2F2019%2F07%2F02%2Frobots-txt-standard%2F00.jpg)