エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
【Python×SEO】robots.txtテスターが使えなくなったので複数URLの一括チェックができるコードを作った|悠生/Python×SEO
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
【Python×SEO】robots.txtテスターが使えなくなったので複数URLの一括チェックができるコードを作った|悠生/Python×SEO
Search Consoleのrobots.txtテスターは2023年12月12日に廃止されてしまいました。 その後Search Console... Search Consoleのrobots.txtテスターは2023年12月12日に廃止されてしまいました。 その後Search Consoleには「robots.txtレポート」という機能が追加されましたが、以前のrobots.txtテスターのように個別URLをチェックする機能がなく、「ちょっと求めてるツールじゃないんだよな感」があります。 一応、個別URLのクロール可否を確認する方法として、Search ConsoleのURL検査もありますが、1URLあたりのチェックに数十秒~数分が必要です。大量のURLをチェックするには不向きです。 またPythonのurllibにはrobots.txtを処理するためのurllib.robotparserというものも存在しますが、私が確認したところrobots.txtの処理方法がGooglebotの挙動とは異なっていたため、こちらもそのままSEOには