はてなブックマーク

Webには有意な情報が大量に存在しています。例えば、購入したい商品がある場合、ちょっと検索してみるだけで販売している店舗やサイト、おおよその価格や購入した人のレビューまで見ることが可能です。さらに応用することもでき、同じ商品を扱っているWebサイトを探して情報収集、比較することで、最安値や最速到着時期も知ることができるでしょう。継続的に情報を収集すれば、商品の人気の上昇/下降や底値までも知ることができます。 しかし、人間がわざわざWebサイトを巡り情報を集めるのは大変です。そこで、プログラムを使って自動的にWeb上に存在する情報を集めるスクレイピングといわれる技術が開発されました。スクレイピングの有意性は明らかで、サービスとして提供されるようになり活用が広まっています。利便性は非常に高く、用途も幅広いです。 一方で気になるのは、スクレイピングでWebサイトから情報を収集することに問題はない