sqlite云々以前にRDB要らなくね?俺が昔クローラ書いたときは、コンテンツ自体はファイルに落として、URLをキーにしたshelveの中にLast-ModifiedとかEtagとかローカルファイルのパスとかをまとめたタプルを突っ込んでた。

agricolaagricola のブックマーク 2012/03/25 11:36

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

簡単なクローラ作るならPythonだよ!

    http://d.hatena.ne.jp/nishiohirokazu/20120323/1332504404 最近、Webクローラクライアントを作るお仕事が増えた。WebクローラクライアントというのはHTTP(S)を介して様々なファイルをダウンロードして解析し、...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう