kotlinでcrawling - Qiita
テコテックAdventCalendar2017の9日目の記事です。 さて、先日の記事でkotlinを簡単に実行できるようになったので、少し実用的なものとしてCrawlerを作ってみたいと思います。 機能としては、指定されたURLのHTML内の画像一覧を表示するだけのものにします。 今回は、Javaライブラリ「crawler4j」のkotlin版「kotlin-crawler」を使います。 ##1. build.gradleの修正 まずは、kotlin-crawlerのREADMEを参考にして、前回作成したbuild.gradleを編集します。 repositoriesとdependenciesの部分を修正しました。 buildscript { ext.kotlin_version = '1.2.0' repositories { mavenCentral() } dependencies
GoでWebクローラー作ってみた - Qiita
package main import ( "flag" "log" "net/http" "net/url" "strings" "github.com/PuerkitoBio/goquery" ) func Crawl(url string, depth int, m *message) { defer func() { m.quit <- 0 }() // WebページからURLを取得 urls, err := Fetch(url) // 結果送信 m.res <- &respons{ url: url, err: err, } if err == nil { for _, url := range urls { // 新しいリクエスト送信 m.req <- &request{ url: url, depth: depth - 1, } } } } func Fetch(u stri
2015年版「Webスクレイピング」に関する参考記事へのリンクを淡々とまとめてみた。リンク16個。 - おしブロ from STONEWEB
スクレイピングに関しては過去にも一度記事にまとめていますが（過去記事：Webスクレイピングに関する参考記事へのリンクを我武者らにまとめてみた）、あれから約一年経ったので改めてここ最近投稿された「スクレイピング」に関する参考になるブログ記事をピックアップしてみようと思います。 ちなみに「Webスクレイピング」については、以前書いた記事「Webスクレイピングとは何ぞや？という疑問が浮かんできたので調べてみた」を参照してみて下さい。 blog.takuros.net www.workabroad.jp ytera22.hatenablog.com tech.respect-pal.jp nelog.jp blog.takuros.net blog.takuros.net blog.takuros.net orangain.hatenablog.com blog.takuros.net qiita
iQONを支えるクローラー/iQON Crawler
IVS CTO Night & Day Spring 2015 のLTで発表した内容です /VASILY @kyuns
Anemoneによるクローラー入門 | feedforce Engineers' blog
こんにちは！ 見た目30歳の新卒1年目中野です。 今回は社内でクローラーについて勉強会を行ったので、その内容について記事を書きました。 クローラーとは、WebページからHTMLを解析して周期的に情報を収集する技術です。 初心者向けの内容となっていますので、クローラーに興味があってやってみたい！という人に読んでいただきたいなと思います。 Anemoneによるクローラー入門 from Tasuku Nakano クローラーとスクレイピングについて まずはクローラーについて説明していきます。 ただ、その前にスクレイピングという技術もあるので先にそちらを説明します。 ご存知かと思いますが、スクレイピングとは、WebページのHTMLを解析してデータを抽出することです。スクレイピングはWebページ1ページに対して処理を行います。 一方クローラーは、Webページ内にある全てのリンクを巡回して、深堀りしな
Rubyとか使ってクローリングやスクレイピングするノウハウを公開してみる！ - 病みつきエンジニアブログ
今まで何度もスクレイピングとかクローリングをしてきたので、マエショリストの端くれとしてコツを公開すべきかなあ、と思い、公開します。 今日の題材は、CNET Newsです。私はウェブ文書にタグ付けをするという研究をしているのですが、そのための教師データとしてクローリングをします。 photo by Sean MacEntee 要件定義 CNET Newsから全ニュースを保存し、その本文をデータベースに保存します。これは、次のようなフローに書き下すことができます。 全URLを取得し、データベースに保存 データベースにある全URLをダウンロードする 保存した全ページを解析して、本文をデータベースに保存する という流れです。これらは独立していますから、それぞれどの言語で解析しても構いません。しかし後述しますが、「あとから追いやすくする」「適材適所」といったあたりを気をつけて、言語選択をするべきだと
ant-eater.com - ant eater リソースおよび情報
This webpage was generated by the domain owner using Sedo Domain Parking. Disclaimer: Sedo maintains no relationship with third party advertisers. Reference to any specific service or trade mark is not controlled by Sedo nor does it constitute or imply its association, endorsement or recommendation.
法と技術とクローラと私 - 最速転職研究会
こんにちは、趣味や業務で大手ポータルサイトのサービスで稼働しているいくつかのクローラの開発とメンテナンスを行っているmalaです。 さて先日、岡崎市立中央図書館Webサイトをクロールしていた人が逮捕、勾留、実名報道されるという事件がありました。 関連URL: http://librahack.jp/ 電話してみた的な話 http://www.nantoka.com/~kei/diary/?20100622S1 http://blog.rocaz.net/2010/06/945.html http://blog.rocaz.net/2010/07/951.html この件につきまして法的なことはともかくとして技術者視点での私見を書きたいと思います。法的なことは差し置いて書きますが、それは法的なことを軽んじているわけではなく、法律の制定やら運用やらは、その法律によって影響が出る全ての人々の常識
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Webクローリング＆スクレイピングの最前線 公開用