はじめに Googleが提供するライブラリを使ってクローラを作りましたので、その紹介をします。 PuppeteerはGoogleが提供するNode.jsのライブラリで、ChromeまたはChromium(以下、Chrome)を自動で操作することができます。 公式ドキュメント:https://github.com/GoogleChrome/puppeteer/blob/master/docs/api.md 注意事項 岡崎市立中央図書館事件のようなクローラが関係する事件が国内で起こっているので、クローリングする際は対象サーバの負荷などに十分配慮し、自己責任で行ってください。 また、対象ページがクローリングを禁止している対象ページが、クローラのアクセスを禁止しているかはrobots.txtで調べられます。 今回クローリングする対象では https://read.amazon.co.jp/robo