RubyでWebスクレイピング 2022年（結局 Mechanize と Nokogiri）
この記事は最終更新日から一定の時間が経過しています。情報が古くなっている可能性があるため注意してください。 Webスクレイピングに関する記事は散々出尽くしていますが、2022年現在 Ruby で Webスクレイピングをしたい場合の技術選定ってどんな状況だろう？という疑問のもと調べ直したのでまとめたいと思います。 結論、特に新しいものではなく典型的な Mechanize および Nokogiri による構成に落ち着きました。 Nokogiri は直接操作するのが初めてだったので、使ってみた感想にも触れていきたいと思います。 この記事で説明すること Ruby での Webサイトスクレイピング手法の実装の一例を説明します。 ログインが必要なページでの Mechanize の実装例について そして記事の最後ではなぜ Ruby なのかを個人的な目線で説明します。 説明しないこと Ruby の環境構築
Rubyのnokogiriとmechanizeの使い分け
nokogirirはHTMLドキュメント解析 mechanizeは「シンプルログイン」認証突破 「シンプルログイン」の個人的な定義は、「フォームにIDとパスワードを入力してログインボタンをクリックしてマイページへ！」みたいなサイトです。 「え？逆にそれ以外何があるの？」最近よくあるじゃないですか、IDを入れたらパスワード入力フォームが現れたり、ログイン時にページが動的に動くサイト。そういうサイトでもmechanizeで認証とれるかもしれませんが、個人的に私はすぐに諦めます。そういうサイトはすぐにselelniumに移行します。 「すぐ諦めたら、力つかないよ！」確かに一理ありますね。しかし私はスピードとストレスと全体的なコストを比較して、「シンプルログインサイト以外はseleniumに即移行！」とすることにしました。 nokogiriの基本的な使い方 Webページ「https:// ○○○.
[Ruby]確定申告の時期だからAmazonから注文履歴をスクレイピングしてみるメモ - Qiita
はじめに 確定申告用にAmazonでの買い物履歴が欲しかったのだが、Amazon.jpではCSVとかがなさそうなので、自動で取ってくるスクリプトを書いてみました。 一度に５件（？）以上買い物していると「◯個すべての商品を表示」みたいなリンクが出るのですが、そこは対応していません。 Rubyは初心者なので、注文履歴をゲットしてくる処理と、HTMLを読み込んでCSVに変換する処理をわけて書いています。 準備 mechanizeとnokogiriを使用するのでインストールしておきます。 require 'open-uri' require 'mechanize' require 'kconv' agent = Mechanize.new agent.user_agent = 'Mac Safari' url = 'https://www.amazon.co.jp/ap/signin?_encod
![[Ruby]確定申告の時期だからAmazonから注文履歴をスクレイピングしてみるメモ - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/5567f345ca79c0da4b25f23fadbc900698349165/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9JTVCUnVieSU1RCVFNyVBMiVCQSVFNSVBRSU5QSVFNyU5NCVCMyVFNSU5MSU4QSVFMyU4MSVBRSVFNiU5OSU4MiVFNiU5QyU5RiVFMyU4MSVBMCVFMyU4MSU4QiVFMyU4MiU4OUFtYXpvbiVFMyU4MSU4QiVFMyU4MiU4OSVFNiVCMyVBOCVFNiU5NiU4NyVFNSVCMSVBNSVFNiVBRCVCNCVFMyU4MiU5MiVFMyU4MiVCOSVFMyU4MiVBRiVFMyU4MyVBQyVFMyU4MiVBNCVFMyU4MyU5NCVFMyU4MyVCMyVFMyU4MiVCMCVFMyU4MSU5NyVFMyU4MSVBNiVFMyU4MSVCRiVFMyU4MiU4QiVFMyU4MyVBMSVFMyU4MyVBMiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnM9Y2YxN2IyYTg3MTZjZGFjZWQxYTBmM2Y3MWQ5ZDkxMmU%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBKdW5TdXp1a2lKYXBhbiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9MWY0YmI5ZjhhZjVlNGZhZDI1ZmM2YmQwZGM5MzUzODU%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D1ae7a5a2455419bcd9382d7c294b539a)
読書メーターのスクレイピングに rubyXL, parallel が便利だった - Qiita
読書メーターには、読書記録（読んだ本、積ん読本、読みたい本、本棚など）を外部にファイルとしてエクスポートする機能がありません。Ruby のライブラリ mechanize, nokogiri を使って、読書メーターのサイトをスクレイピングして、データをExcelブックに取り出すプログラムを作りました（bmscrp.rb ）。Excelブックの生成には rubyXL を使い、書誌情報の収集は prallel を使って並列処理しました。 nokogiri がスクレイピングに必須なのは言うまでもありませんが、parallel で並列処理が簡単に記述できるのは、RESTなサイトからデータを収集する時にとても便利です（サイトに負荷をかけないように気をつけないといけませんが）。 github で公開しています。以下、README.md からの抜粋です。 Requirements ruby 2.1.8,
RubyのMechanizeとNokogiriで読書メーターをスクレイピング - THE SNOWBALL
RubyのMechanizeとNokogiriで読書メーターをスクレイピング Rubyで読書メーターをスクレイピングしたい 読書系SNSの読書メーターを利用しています。 読書メーター - あなたの読書量をグラフで管理 ユーザー間のコミュニケーションも活発で、お気に入り・お気に入られ(Twitterでいうフォロー・フォロワーの関係)のユーザーとどのくらい同じ本を読んでいるか(このことを共読と呼んでいます)、なんて話題で盛り上がったりしてます。 ユーザー毎のマイページでそういう情報は確認できますが、数字は日々変化しますし、何十人、何百人といると楽な方法が欲しくなります。 あるお気に入りユーザーの方がPerlで共読数などを一括取得するスクリプトを書かれていて、以前それをいただいたんですが、自分の環境ではうまく動かなかったのでどうせなら自分が勉強中のRubyで同じものを書いちまえ、ということで書い
RubyのMechanizeとNokogiriで読書メーターをスクレイピング - THE SNOWBALL
RubyのMechanizeとNokogiriで読書メーターをスクレイピング Rubyで読書メーターをスクレイピング Rubyで読書メーターをスクレイピングしたい 読書系SNSの読書メーターを利用しています。ユーザー間のコミュニケーションも活発で、お気に入り・お気に入られ(Twitterでいうフォロー・フォロワーの関係)のユーザーとどのくらい同じ本を読んでいるか(このことを共読と呼んでいます)、なんて話題で盛り上がったりしてます。 ユーザー毎のマイページでそういう情報は確認できますが、数字は日々変化しますし、何十人、何百人といると楽な方法が欲しくなります。 あるお気に入りユーザーの方がPerlで共読数などを一括取得するスクリプトを書かれていて、以前それをいただいたんですが、自分の環境ではうまく動かなかったのでどうせなら自分が勉強中のRubyで同じものを書いちまえ、ということで書いてみました
RubyのMechanizeとNokogiriで読書メーターをスクレイピング - Qiita
Rubyで読書メーターをスクレイピング Rubyで読書メーターをスクレイピングしたい 読書系SNSの読書メーターを利用しています。 読書メーター - あなたの読書量をグラフで管理 ユーザー間のコミュニケーションも活発で、お気に入り・お気に入られ(Twitterでいうフォロー・フォロワーの関係)のユーザーとどのくらい同じ本を読んでいるか(このことを共読と呼んでいます)、なんて話題で盛り上がったりしてます。 ユーザー毎のマイページでそういう情報は確認できますが、数字は日々変化しますし、何十人、何百人といると楽な方法が欲しくなります。 あるお気に入りユーザーの方がPerlで共読数などを一括取得するスクリプトを書かれていて、以前それをいただいたんですが、自分の環境ではうまく動かなかったのでどうせなら自分が勉強中のRubyで同じものを書いちまえ、ということで書いてみました。 共読解析ツールのソースコ
読書メーターにログイン状態でアクセスし、お気に入りユーザーの読書状況を一括取得するRubyスクリプト
kyodoku.rb p��r V �M�r V # -*- coding: utf-8 -*- require 'mechanize' require 'nokogiri' require 'kconv' module HashInitializable def initialize(attributes={}) attributes.each do |name,value| send("#{name}=",value) end end end class HashInitializableStruct def self.new(*arguments) struct = Struct.new(*arguments) struct.send(:include, HashInitializable) struct end end properties = [:id,:name,:user_u
Rubyist Magazine - スはスペックのス 【第 1 回】 RSpec の概要と、RSpec on Rails (モデル編)
『るびま』は、Ruby に関する技術記事はもちろんのこと、Rubyist へのインタビューやエッセイ、その他をお届けするウェブ雑誌です。 Rubyist Magazine について 『Rubyist Magazine』、略して『るびま』は、Rubyist の Rubyist による、Rubyist とそうでない人のためのウェブ雑誌です。 最新号 Rubyist Magazine 0062 号 バックナンバー Rubyist Magazine 0062 号 Kaigi on Rails 特集号 RubyKaigi Takeout 2020 特集号 Rubyist Magazine 0061 号 Rubyist Magazine 0060 号 RubyKaigi 2019 直前特集号 Rubyist Magazine 0059 号 Rubyist Magazine 0058 号 RubyKai
[ruby]Mechanize+nokogiriでスクレイピング体験
ひっさびさにruby書いたら、if文の書き方をど忘れして（endという単語をど忘れ）、少し凹み気味ですが、nokogiriでスクレイピングする事があったので、簡単にまとめておきます。 nokogiri単品でURLからデータを拾ってきてパースする事もできますが、今回はログイン認証を通過した先のデータをスクレイピングしたかったので、Mechanizeとセットで利用しました。 #! /usr/bin/ruby -Ke # rubyのパスは "which ruby" で各自調べてください require "rubygems" require "mechanize" agent = Mechanize.new # 通らなかったら WWW::Mechanize.new で試して agent.user_agent = "好きなユーザーエージェントをここにコピペ" agent.max_history =
RubyのMechanizeで文字化けするページがある件について | インサイドフラッギング
Mechanizeがときどき日本語のページで文字化けするので、原因と解決方法を調べてみた。確認したバージョンは次の通り。 Ruby 1.9.1-p378と1.8.6-p111（Ubuntuのパッケージ） Mechanize 1.0.0 Nokogiri 1.4.2 libxml2 2.6.31（Ubuntuのパッケージ） エンコーディングの扱い Mechanizeの内部エンコーディングはUTF-8に固定されていて、ドキュメントのエンコーディングが何であれUTF-8に変換される。これはMechanizeがHTMLパーサに使っているNokogiriの仕様であり、Nokogiriが依存しているlibxml2の仕様でもある。そういう事情でMechanizeから取り出した文字列はすべてUTF-8になっている。Ruby 1.9だとString#encodingはEncoding::UTF_8にセットさ
1時間の作業を自動化して1分でやろう！ MechanizeとNokogiriで。 | ヘッドウォータースのブログ TechNote
普段の業務に、週に一回とか一定の間隔で、複数のwebサイトから情報を収集し、レポートを作るっていう作業はありますか？ 僕は最近、こういう作業を自動化して、速攻終わらせるスキルをついに手に入れたんです！ プログラマーっぽくて嬉しい！！ では、この自動化のやり方を、僕のアプリに貼ってるAppBankの広告の収益情報を取得してCSVで出力するという例で説明します！！ ログインして、目的のページを取得する 目的のページから必要な情報を取り出す 必要な情報を出力する 今回必要なもの ・プログラム言語 Ruby ・情報を取得するライブラリ mechanize-2.7.0 プログラムでブラウザをエミュレートすることができるライブラリです。 今回は、rubyで使いますがperlとかphpとか他の言語でも使えます！ 必要な情報を取り出すライブラリ Nokogiri 1.6.0 Htmlからテキストを取り出す
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - HiroshiTakagi/bmscraping