Go と Ruby と Amazon SQS と ElastiCache で分散して動かせるクローラを書いてみた - Qiita

Go と Ruby と Amazon SQS と ElastiCache で Ranunculus というクローラを書いてみました。 正確には書きかけなのですが、もう日曜日が終わってしまうので、とりあえずまとめておくことにします。 Ruby Gem https://rubygems.org/gems/ranunculus その Gem のコード https://github.com/k-kawa/ranunculus-ruby Go のコード https://github.com/k-kawa/ranunculus なんで作ろうと思ったのか 理由は 3 つあります。 1 つめは、Ruby で使えるよいクローラが見つからなかったからです。 Python には Scrapy という、クローラのためのいたれりつくせりなライブラリがあります。 ところが、Ruby にはそういういい感じのライブラリが