はてなブックマーク

久しぶりに 研究 カテゴリーの記事 書きます．Convolution Neural Network (CNN) を画像検索に利用する話です． 画像検索（image retrieval または image search）とは，大量の画像を蓄えた「データベース (database)」の中から，検索対象（「クエリ (query)」）の画像に類似した画像を探し出す手続きのことです．ここで考えているのは画像の内容の類似性（人間の感覚的な似てる度合い）に基づく検索なので，より詳しく Content-Based Image Retrieval と言うこともあります．ちなみに，Content-Based じゃない画像検索ってのは，「猫」とか「白いもふもふ」みたいにキーワードをクエリにするとか，そういう類のやつね． 5年ほど前に Deep な CNN が画像認識で高い性能を示すことが知られるようになって以来

最近ちまちま研究に勤しんでるたかたかです．8月中旬から9月上旬は書き入れ時やから今のうちにあれもこれも…といろいろ手を出して，ちょっとしっちゃかめっちゃかな感じ．で，自分の研究ネタを煮詰めて行くような気合（？）のいることやる気せえへんかったんで， NVIDIA cuDNN – GPU Accelerated Deep Learning をインストールする作業に逃避しようとしてみました（ cf. Theano で GPU 使って Convolutional Neural Net - まんぼう日記 ）． そしたら，ダウンロードするには NVIDIA Developer として登録することが必要で，その際に登録フォームに使用目的なんかを書いてしかもその審査を受けなあかんということでした．先週金曜の午後に登録しましたが，まだ返事来ません．手作業ちうことか？  アメリカ西海岸が月曜朝を迎えるまで待つ

最近よゆーのーてどよどよな感じのたかたかです．Batch Normalization ちう論文読んだらむしょーにプログラム書いて実験しとーなって，週末にちょこっとやってみました． Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift | ICML 2015 | JMLR W&CP [1502.03167] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift Deepなニューラルネットの学習がうまく進まない問題を解決する方法として，各層への入力（実際には活性化関数への入力）をミニバッチ単位で正規化する仕組みを組み込むことを提案して

ようやくちょこちょこ研究はじめたたかたかです． てくてく登校 研究のねたそのものはまだ記事にできないので，てくてく登校した話を…．っておい，タイトルの件はどーなった，って方はずっと下の方へスクロールしませう（すいません (^^;）． いつもの遠回りルートでの登校でしたが，ええ天気やったので写真をちょこちょこ撮りながらてくてく． 瀬田の唐橋と桜（仮）． 「紫式部の泉」そばの…これ何の木？柳？てか「紫式部の泉」って何？ (?_?) 朝食中の鴨かもなみなさん．晩秋の頃はちょっと近づくとすぐ逃げてた気がしますが，近頃は平気で遊歩道上をうろうろしてます．といっても，さすがに横の階段登ろうとしたらいっせいに飛んでかはりました．お食事中ごめんなさい． 石山寺付近の桜（仮）． 瀬田川ぐるりさんぽ道 ってカテゴリをつくりました． シグモイドの対数が \( -\infty \) になるのを防ぐ さて，お待たせ

Theano で Multi Layer Perceptron & Convolutional Neural Net - まんぼう日記 と Theano で MLP & CNN (2) - まんぼう日記 の Convolutional Neural Net の実験のつづきで，MNIST のかわりに CIFAR-10 を使ってみることにしました．ちうことで，CIFAR-10 について．あと，CIFAR-10 では ZCA whitening という前処理をした方がよいかもという話があったので，ついでにそっちの話も． CIFAR-10 CIFAR-10 はこちらで入手できます： CIFAR-10 and CIFAR-100 datasets 32x32画素の小さい画像を10種類のクラスに分類する識別問題用データセットです．クラスあたり6000枚で，学習用が5万枚，テスト用が1万枚あります． と

というわけで（ Pylearn2 の tutorial でお勉強 - 3時間目 - まんぼう日記 ），Theano で GPU 使って計算できるようにしたいのです．そのためにまずは CUDA を入れましょー． 対象は MacBook Pro Retina 15inch, Mid 2012 で，GPUは Intel HD Graphics 4000 512MB (Integrated) と NVIDIA GeForce GT 650M 1GB (discrete) の2本立てです． CUDAのインストール CUDA Zone ==> Downloads ==> CUDA 6.5 Production Release をダウンロード． Getting Started Mac OS X :: CUDA Toolkit Documentation  にしたがっていろいろ． まずは上記ページの 2.