タグ

ブックマーク / info-search.yahoo.co.jp (1)

  • インフォセンター - Yahoo!検索

    クローラー ウェブページの巡回・収集を行うクローラーに関連する説明や、REP(Robots Exclusion Protocol)に従ったrobots.txtの設置方法などの解説。 クローラーによるウェブページの巡回と収集 ロボッツ・エクスクルージョン・プロトコルとクローラー サイト単位、ディレクトリ単位での巡回の拒否設定 1 » 一覧を見る

    h-yano
    h-yano 2008/09/16
    Yahoo!検索が利用している検索エンジン、Yahoo! Search Technology(YST)に関連する情報や検索エンジンに関する基礎知識
  • 1