ブックマーク / info-search.yahoo.co.jp (1)

  • インフォセンター - Yahoo!検索

    クローラー ウェブページの巡回・収集を行うクローラーに関連する説明や、REP(Robots Exclusion Protocol)に従ったrobots.txtの設置方法などの解説。 クローラーによるウェブページの巡回と収集 ロボッツ・エクスクルージョン・プロトコルとクローラー サイト単位、ディレクトリ単位での巡回の拒否設定 1 » 一覧を見る

    nurupo12
    nurupo12 2010/12/16
    一度全部読んでおくべき。
  • 1