この投稿は クローラー/スクレイピング Advent Calendar 2014の12月23日用です。 はじめに人間って凄い。 まずはこの画像を御覧ください。 図1 各国のECサイトの画像 Eコマースのサイトで、商品の詳細のページを見るだけですぐに商品名、価格を判断出来ましたよね? それが英語のサイトでも中国語のサイトでも、韓国語のページでも分かりましたよね? 凄いですね。 人間のスクレイピング能力人間は恐ろしいほどのスクレイピング能力を持っている事が分かりました。 ソースも見ない、タグも見ないで、なんとなく雰囲気だけでスクレイピングしています。 もしこの能力をコンピュータに移植できたら凄いことですね。 もし、先ほどの画像を身の回りのインターネットに一番疎い人に見せてみて下さい。 きちんとスクレイピング出来たでしょうか? おそらく出来なかった事が多いのではないかと思います。 こんな事させて
![人間にはわかるのに、なぜ機械にはそれがわからないのか。A.I.とスクレイピング - かれ4](https://cdn-ak-scissors.b.st-hatena.com/image/square/be063ca6c8cc2153bbcf67130137d2d6e9343cc7/height=288;version=1;width=512/http%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Ft%2Ftottokug%2F20141223%2F20141223133132.jpg)