はてなブックマーク

久しぶりに 研究 カテゴリーの記事 書きます．Convolution Neural Network (CNN) を画像検索に利用する話です． 画像検索（image retrieval または image search）とは，大量の画像を蓄えた「データベース (database)」の中から，検索対象（「クエリ (query)」）の画像に類似した画像を探し出す手続きのことです．ここで考えているのは画像の内容の類似性（人間の感覚的な似てる度合い）に基づく検索なので，より詳しく Content-Based Image Retrieval と言うこともあります．ちなみに，Content-Based じゃない画像検索ってのは，「猫」とか「白いもふもふ」みたいにキーワードをクエリにするとか，そういう類のやつね． 5年ほど前に Deep な CNN が画像認識で高い性能を示すことが知られるようになって以来

最近よゆーのーてどよどよな感じのたかたかです．Batch Normalization ちう論文読んだらむしょーにプログラム書いて実験しとーなって，週末にちょこっとやってみました． Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift | ICML 2015 | JMLR W&CP [1502.03167] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift Deepなニューラルネットの学習がうまく進まない問題を解決する方法として，各層への入力（実際には活性化関数への入力）をミニバッチ単位で正規化する仕組みを組み込むことを提案して

ようやくちょこちょこ研究はじめたたかたかです． てくてく登校 研究のねたそのものはまだ記事にできないので，てくてく登校した話を…．っておい，タイトルの件はどーなった，って方はずっと下の方へスクロールしませう（すいません (^^;）． いつもの遠回りルートでの登校でしたが，ええ天気やったので写真をちょこちょこ撮りながらてくてく． 瀬田の唐橋と桜（仮）． 「紫式部の泉」そばの…これ何の木？柳？てか「紫式部の泉」って何？ (?_?) 朝食中の鴨かもなみなさん．晩秋の頃はちょっと近づくとすぐ逃げてた気がしますが，近頃は平気で遊歩道上をうろうろしてます．といっても，さすがに横の階段登ろうとしたらいっせいに飛んでかはりました．お食事中ごめんなさい． 石山寺付近の桜（仮）． 瀬田川ぐるりさんぽ道 ってカテゴリをつくりました． シグモイドの対数が \( -\infty \) になるのを防ぐ さて，お待たせ

Theano で Multi Layer Perceptron & Convolutional Neural Net - まんぼう日記 と Theano で MLP & CNN (2) - まんぼう日記 の Convolutional Neural Net の実験のつづきで，MNIST のかわりに CIFAR-10 を使ってみることにしました．ちうことで，CIFAR-10 について．あと，CIFAR-10 では ZCA whitening という前処理をした方がよいかもという話があったので，ついでにそっちの話も． CIFAR-10 CIFAR-10 はこちらで入手できます： CIFAR-10 and CIFAR-100 datasets 32x32画素の小さい画像を10種類のクラスに分類する識別問題用データセットです．クラスあたり6000枚で，学習用が5万枚，テスト用が1万枚あります． と

というわけで（ Pylearn2 の tutorial でお勉強 - 3時間目 - まんぼう日記 ），Theano で GPU 使って計算できるようにしたいのです．そのためにまずは CUDA を入れましょー． 対象は MacBook Pro Retina 15inch, Mid 2012 で，GPUは Intel HD Graphics 4000 512MB (Integrated) と NVIDIA GeForce GT 650M 1GB (discrete) の2本立てです． CUDAのインストール CUDA Zone ==> Downloads ==> CUDA 6.5 Production Release をダウンロード． Getting Started Mac OS X :: CUDA Toolkit Documentation  にしたがっていろいろ． まずは上記ページの 2.