Nokogiri の基本(翻訳版) - Engine Yard Blog JP | Engine Yard Blog JP
本記事は英語版ブログで2010年1月14日に公開された記事の翻訳版です。Engine Yard ブログでは少し趣向を変えて、コミュニティのメンバーによるゲスト投稿を募ることにしました。今回の (初めての!) ゲスト投稿は Aaron Patterson 氏によるものです。Ruby コミュニティの長年のメンバーである同氏は Nokogiri の作成者でもあります。Seattle.rb の開発者とともにコーディングに勤しむ一方、世界各地で行われる業界の会議やイベントに出向いて Nokogiri や他の Ruby 関連のトピックについて講演を行っています。 Nokogiri は XML ドキュメントと HTML ドキュメントを扱うためのライブラリです。Nokogiri は私の良き相棒 Mike Dalessio と一緒に開発しました。2 人とも Nokogiri を使って毎日 HTML や XM
Nokogiriを使ったRubyスクレイピング [初心者向けチュートリアル]
プログラム初心者な方向けに始めたRailsチュートリアルシリーズです。今回はRubyでスクレイピングをしたいという人向けに『Nokogiri』というライブラリを使ったスクレイピングのチュートリアルを作ってみました！ (05-02 08:10) 補足： Windowsではじめての人向けの記事を追加 🏈 目次(1) Webスクレイピングとは？ (2) Nokogiriとは？ (3) 最初に読んでおくと捗りそうな記事 (4) Gem Nokogiriのインストール (5) Yahoo!Japanのトップページからtitleを取得 (6) NaverまとめTechページの注目一覧のタイトル・画像を取得 (7) 実際にコードを書くときに参考になるサイト (8) Railsへの組み込み 🐝 (1) Webスクレイピングとは？WebスクレイピングとはWebサイトのHTMLデータを収集して、特定のデー
![Nokogiriを使ったRubyスクレイピング [初心者向けチュートリアル]](https://cdn-ak-scissors.b.st-hatena.com/image/square/c2ea7e72d0d7f3ba6c237909f321e67ffbdaa24e/height=288;version=1;width=512/https%3A%2F%2Fmorizyun.github.io%2Fimg%2Fog_image.png)
Node.js用のスクレイピングモジュール「cheerio-httpcli」の紹介 - Qiita
1年程前にリリースしたモジュールなんですが、最近になって Node.jsで超簡単にスクレイピングを実装してみる - もやもやエンジニア node.js スクレイピング cheerio-httpcli の使い方 | まとめーたー とかで紹介していただいていたようなので、便乗して本人によるアッピールもしてみようかな、と。 Node.jsでスクレイピングする利点 何と言っても非同期で多数のサイトをガンガンスクレイピングできるところじゃないでしょうか。 一つのサイトに大量にアクセスするのは迷惑になるのでイカンですが、不特定多数のサイトに対してであるならば同時並行で処理できると処理時間の短縮にも繋がるかと思います。 cheerio-httpcliの特徴 WEBページの文字コードを自動判定してUTF-8に統一してくれる WEBページのhtmlをcheerioというモジュールでjQueryライクな操作が
RubyでWebを操作できるMechanizeの利用例を集めてみた | Scimpr Blog
公式mechanize.rubyforge.org/ 使い方などMechanize について 楽々スクレイピング! Ruby Mechanizeの使い方 楽々スクレイピング! Ruby Mechanizeの使い方(2) リンクmechanizeでどんなことができるのか色々知りたかったので、使い方でなく実用例ぽいものを集めてみた. リンク先のコードは古いのもあって動かないかも そもそも公式のグーグル検索がそのまま動かないという DoCoMoの請求書を毎月Evernoteに送信してチェックするカスペルスキーのサイトからウィルスレベルをスクレイピングして、つぶやく。RubyのMechanizeではてなブログへ投稿RailsCastsの動画をタグごとにダウンロードしてくるスクリプトニコニコ動画の動画をダウンロードauの請求書を取得ソフトバンクの請求書を取得ゆうちょ銀行のログインとか取得かrubyの
【技術】mechanizeに変わる方法を考えてみた - エンジニアリングとお金の話
webサイトをスクレイピングする際はmechanizeを使用しているが、ログイン処理等にjavascriptを使用してゴニョゴニョしているサイトの場合は、行き詰ってしまう事が多い。 今までその様なサイトは諦めていたが、どうにかスクレイピングする方法が無いかと調べた結果、以下の２つで実現出来る事がわかった。 ① seleniumを使用する ② Phantom JSを使用する どちらの方法も擬似的なブラウザオブジェクトを使用してjavascriptの処理を行う事が可能である。今回は操作が簡単なseleniumを使用した方法について説明する。 １.seleniumとは Webアプリケーション用テストツール。ブラウザの操作をシミュレートして、Webアプリケーションの画面周り操作を行う事が可能である。 要は、人が手でWebブラウザを操作する代わりにSeleniumがWebブラウザを操作して、作業の自
Mechanize で JavaScript 部分にどう対処するかの考察 - 君の瞳はまるでルビー - Ruby 関連まとめサイト
目的 Mechanize を使ってウェブアクセスを自動化する際に障壁となるのが JavaScript です。 Mechanize は JavaScript を認識してくれません。 例えば以下の処理が入っただけで Mechanize は期待通りの動きをしてくれません。 onClick イベントを使った操作 jQuery などの JavaScript ライブラリが発達し、ページを動的に生成するということが自然と行われるようになった昨今、 Mechanize は無力なのでしょうか？ そんなことはありません。ほんの一工夫で目的を達成する方法をまとめていきます。 前提 本ページが想定するのは「特定ページに対する操作の自動化」です。 不特定多数のページにアクセスする自動巡回情報収集などの自動化は含みません。 不特定ページを扱おうとした場合、JavaScript 部分に関して足掛かりとなる前提が全くなく
Mechanize について - 君の瞳はまるでルビー - Ruby 関連まとめサイト
Heroku の基本 Hello Heroku（Web アプリケーション） Hello clockwork on Heroku（定期実行アプリケーション） foreman について 複数のプロセスを管理する Ruby 上のツール／ライブラリ clockwork について cron の代替となる機能を単独で提供してくれる軽量のツール／ライブラリ Git について ローカル環境で試す 目的 Mechanize を使ってウェブアクセスをエミュレートする基礎的な方法について説明します。 本ページが想定するのは基本的に「特定ページに対する操作の自動化」です。 自動巡回情報収集には Mechanize だけではなく、その他多くの応用技術が必要になるため対象としません。 インストール 以下のコマンドを実行して Mechanize gem をインストールします。 gem install mechanize
JavaScriptで文字列価格を数値に変換する方法とカンマ区切りに戻す方法 - 【鋭利団体】PK-Brothers
今回はJSのTipsになります。 結構使う頻度が多いものなので備忘録がてらに残しておきます。誰かの参考になりますように。。。 カンマ付の価格を数値に変換する方法 strPrice = '12,345'; //splitで全てのカンマ(,)を取り除いて空文字で連結して前後の空白を削除しparseIntする numPrice = parseInt(strPrice.split(',').join('').trim()); 数値をカンマ付の文字列価格に変換する方法 intPrice = '12345'; strPrice = addFigure(intPrice); // カンマ区切りに変換する関数 function addFigure(str) { var num = new String(str).replace(/,/g, ""); while(num != (num = num.repl
３桁カンマ 挿入/削除 関数
３桁カンマ 挿入/削除 関数 この関数はjs-mlで紹介または作成されたものです。(Subject: [js-ml:05272] Re: 数字のカンマ表示)。 * サンプルでは、下記それぞれのフィールドへカーソルを入れたあと、カーソルが外に出たとき(onBlur時)に実行されます。 * 省略されている機能は自分で実装してご利用ください。 * Win NN4,NN6,IE5 / Mac NN4,NN6,IE4.5,IE5 で確認済み 注意: 正規表現が使われている部分はNN3以下では動作しません(split/joinは動きます)。 ECMAScriptで正規表現が規定されていることを考えれば、 これでも良いかな?とは思いますし、今後の実用上も大丈夫かなとも 思いますが...、ただ、やはり、この手のものは JavaScript1.1ベースで仕上げておきたいという気もします。 参考:三桁カンマ挿
Google Apps Script でWEB死活監視（複数URL編）
こんにちは、松田です。 前回は Google Apps Script(GAS)での簡易的な死活監視でしたが、今回は複数URL対応版になります。ネタは細かく引っ張ります。 しかしこれは、配列に入れれば簡単に廻せますよね。こんなかんじです。 `� �fU 0 ��fU /* 復数URLを死活監視するバージョン */ var urls = [ 'http://www.example1.com/', 'http://www.example2.com/', 'http://www.example3.com/', 'http://www.example4.com/', 'http://www.example5.com/' ]; var to = 'foo@example.com'; var sub = 'サーバ障害報告'; var body = "監視中の サー
Google Apps-script UrlFetchApp.fetch returning cached copy
I am using UrlFetchApp in a google apps script to perform a get, as follows: var optAdvancedArgs = { "method": "GET", "headers": {"Cache-Control": "no-cache", "Pragma": "no-cache"}, }; var response = UrlFetchApp.fetch(url, optAdvancedArgs); Despite my attempt to disable the cache in the headers, the response I get is always a cached copy. If I perform a wget in my console using the same url, I see
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://qiita.com/takoratta/items/06f1972f92568cc7f651