つまりなにしたの Chainerの抽象度を飛躍的に高めたTrainerにはextensionsがある。 せっかくだからextensionsを全部使ってみた。 2017年11月10日 追記 Extensionを自分で作ってみました。 ensekitt.hatenablog.com 背景 最近やっとChainerのバージョンを上げました。 qiita.com を読んで、すごい勢いで僕のソースコードも抽象化したわけですが、 僕はまだまだextensionsの素敵機能を素敵に使いこなせてない！ というわけで、勤労感謝の日にChainerの勤労(Training)に感謝してextensionsを全部試した。 Trainer extensions Trainer extensions — Chainer 3.0.0 documentation dump_graph 概要 グラフをDOT Languag

こんにちは、データチームの後藤です。この記事では、一般物体認識で優秀な成績を収めた代表的なニューラルネットワークモデルを、ファッションアイテムの画像データに対して適用し、どのアーキテクチャが有用か、どれだけの精度を出せるのかを調べる実験を行います。 今回は、 AlexNet Network In Network GoogLeNet DenseNet の4つのアーキテクチャを試しました。 背景 iQONでは毎日500以上のECサイトをクロールし、一日平均1万点もの新着アイテムを追加しています。この過程で、新着アイテムがiQONのどのカテゴリに属するのかを決める必要がありますが、この作業を人手で行うと膨大なコストになってしまいます。この問題に対して我々は、アイテムの名前や説明文、画像データを活用してカテゴリを判別する仕組みを作りました。とくに画像データによる判別には、畳み込みニューラルネットワ

Sign in

Deep Learningの各階層の入力データの分布は、学習の過程において、下位層のパラメータが更新されることにより変化する。各階層の勾配は、ミニバッチ内で平均をとることにより推定しているが、この分布の変化により推定に、ミニバッチごとに異なるバイアスが乗りやすくなる。そのため、学習が不安定になるという問題がある。この問題は、internal convariance shiftと呼ばれている。この問題を解決するために、下記の論文では各階層の入力分布をミニバッチごとに平均=0と分散=1とに正規化するbatch normalizationという方法が提案されている。 http://arxiv.org/pdf/1502.03167v3.pdf 今回は、chainerにてBatch normalizationを、各CNNに２つの方法で適用してみた。 １）下記のようにconvと非線形な活性化関数ReL

動機 Residual Networkのようなdeeeepなニューラルネットワークを使ってみたいと思いました。 MNISTでは物足りなく、ImageNetはデータ集めるのが大変そう&学習に時間がかかりそう、という理由でCIFAR-10画像データセットをつかって画像の分類を行いました。 CIFAR-10画像データセットとは CIFAR-10画像データセットは小さいサイズのカラー画像のデータセットです https://www.cs.toronto.edu/~kriz/cifar.html 画像サイズは32 x 32px 10クラスの画像がそれぞれ6000枚、計60000枚の画像がある そのうち50000枚が学習データ、10000枚がテストデータ クラスはairplane, automobile, bird, cat, deer, dog, frog, horse, ship, truck 実行

今話題のDeep Learning(深層学習)フレームワーク、Chainerに手書き文字の判別を行うサンプルコードがあります。こちらを使って内容を少し解説する記事を書いてみたいと思います。 (本記事のコードの全文をGitHubにアップしました。[PC推奨]) とにかく、インストールがすごく簡単かつ、Pythonが書ければすぐに使うことができておすすめです！ Pythonに閉じてコードが書けるのもすごくいいですよね。 こんな感じのニューラルネットワークモデルを試してみる、という記事です。 主要な情報はこちらにあります。 Chainerのメインサイト ChainerのGitHubリポジトリ Chainerのチュートリアルとリファレンス 1. インストール まずは何はともあれインストールです。ChainerのGitHubに記載の"Requirements" ( https://github.co

A Powerful, Flexible, and Intuitive Framework for Neural Networks Get Started Learn More