俺が普段使っているSNSの一つに ファンタジーアースSNS というのがあって、これは同名のゲーム(要約すると50人1チームで戦争するゲームです)と連動して戦争の成績が見れたり各国毎の統計が見れたりとなかなか便利な仕組みになってます。 ただ、各戦争毎に表示される個人成績や召還数といった値は各戦争結果ページでしか得られず、ゲーム内で参照できる戦績表示では今まで行った全ての戦争に対して行われる為、直近10件の戦争が見たいなどという場合には手で計算するとかしないといけなくて大変不便です。 というわけで SNS をスクレイピングして各値を拾って表示するスクリプトを組みました。全戦争読み込んだり平均値出したりとかは全然作りこんでないのでその辺は勝手に改良すると良いです。もっともこのSNSは大変重いのでスクリプトを実行する場合はアクセスの間隔あけるとかしてサーバに負荷が掛からない様に御願いします。 必要
2016-12-09追記 「Pythonクローリング&スクレイピング」という本を書きました! Pythonクローリング&スクレイピング -データ収集・解析のための実践開発ガイド- 作者: 加藤耕太出版社/メーカー: 技術評論社発売日: 2016/12/16メディア: 大型本この商品を含むブログを見る これはクローラー/スクレイピング Advent Calendar 2014の7日目の記事です。 Pythonでクローリング・スクレイピングするにあたって、いろいろなライブラリがあるので一覧でまとめてみます。 以下の4つのカテゴリにわけて紹介します。 Webページを取得する Webページからデータを抜き出す Webページの自動操作 総合的なフレームワーク なんでこれが載ってないの?この説明はおかしい!などありましたらお気軽にお知らせください。なお、この記事はいろいろなライブラリを紹介することを目
I’ve recently had to perform some web scraping from a site that required login. It wasn’t very straight forward as I expected so I’ve decided to write a tutorial for it. For this tutorial we will scrape a list of projects from our bitbucket account. The code from this tutorial can be found on my Github. We will perform the following steps: Extract the details that we need for the login Perform log
bottle PythonのWebフレームワーク。1ファイルのみで構成されているのでインストールが楽。 beaker Pythonでセッション管理を行うためのライブラリ Facebookの操作の方法 アプリケーションの登録方法 1.facebookの開発者登録を行う。 開発者登録の手順 http://fb.dev-plus.jp/what-devplus/dev_register/ 2.開発者ページの[Apps]->[Add a New App]を実行する。 https://developers.facebook.com/ 3.アプリケーションの種類で[ウェブサイト]を選択する 4.アプリケーション名を入力して、[Create New Facebook APP ID]を選択する 5.カテゴリーを選択して[Create APP ID]を入力する。 6.作成されたページを下にスクロールすると「
なんてシンプルなのか。感動した。さっそくTinderを始めようと思った。しかしTinderにはスワイプの制限というものがあるという。無料ユーザは120回ほどスワイプすると、そこで一定時間スワイプができなくなってしまう。有料姦淫登録をすればこの制限は取り払われるようだ。一ヶ月で約1000円。明日はプチ断食である。 TinderBot 上のgistはシンプルで素晴らしい。職場でこれを流していても、よもやTinderをしまくってるとは誰も思うまい。さながら忍者である。 しかし、これでは一体どんな人たちがTinderにいて、自分が一体どんな人たちに されるのか計測できない。「測定できないものは制御できない」なんてのはトム・デマルコの格言で、私に群がる(もちろんそうなるよね?)女性たちを制御できなければ男の恥と言って過言ではない。ではどうするか。 pynder - Python client for
流れ ログインしたいサービスのログインページに行き、ログインフォームのパラメータを調べる 必要な情報をログイン用のURLに送信し、セッションを開始する 以下では、Qiitaを例として話を進める。 パラメータの調べ方 Qiitaのログインフォームのソースは次のようになっている: <form class="landingLoginForm" autocomplete="off" data-event_name="Login with password" action="/login" accept-charset="UTF-8" method="post"> <input name="utf8" type="hidden" value="✓"> <input type="hidden" name="authenticity_token" value="rYIMTVoDlb4eCzh6wZIRg
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く