はてなブックマーク

はじめに 前回の記事 では，multi layer perceptron(MLP)のサンプルコードを走らせてみました．今回は畳み込みニューラルネットワーク(CNN)です． サンプルコード データセット・ネットワーク構造 データセットは前回と同じくMNISTの手書き文字データセットを使います($28 \times 28$の画像)． CNNの説明及びネットワーク構造について次の図を作ってみました． 畳み込み層 畳み込みのフィルタサイズは$5 \times 5$で，ゼロパディングをしているので出力画像は入力画像と同じサイズになります．このパディングの操作，いまいち何のためにやっているか(やっていいのか)が説明できませんでした． サイズが途中で変わらないので次元の計算が簡単になる? 画像端の部分の特徴量抽出ができる? という感じなのでしょうか? プーリング プーリング層ではマックス・プーリングを使

はじめに NTPは時刻同期を行うためのプロトコルです． PCの時刻は基本的にNTPで同期していれば正確，と思っていたのですが，特にwindowsの場合，デフォルトの設定では用途によって十分な精度で同期されていませんでした．そこで，出来る限り正確に同期させるための設定を調べたのでまとめます． windowsのNTPクライアント機能 windowsではW32Timeサービスによって時刻同期が行われています． このサービスの仕様について以下の様な記載があります． ネットワーク上のノード間の W32Time サービスの精度は、保証およびサポートされません。W32Time サービスは、時間が重要となるアプリケーションのニーズを満たす完全な機能を備えた NTP ソリューションではありません。W32Time サービスは、主に次の手順を実行するように設計されています。 * Kerberos v5 認証プロ

はじめに DNNのライブラリなどunixで走らせたいライブラリを用いる際は，私の場合，ubuntuのデスクトップorサーバに（windows pcから）sshで繋いで環境構築したdockerのコンテナを走らせて開発していました．プログラムを走らせるだけであれば問題ないのですが，デバッグ等をやりたいとなると少し不便でした．データの前処理など計算ライブラリを使用しない処理はwindowsで実装し，残りをvimなどで実装していましたが，dockerでvncサーバを走らせることでGUIアプリケーションを動かす方法を知ったので使ってみました． 前提 サーバ: ubuntu/centOS docker/nvidia-dockerの環境あり クライアント: windows 要望: eclipse+pydev（などのIDE）で開発したい，結果を直接ビジュアライズ(matplotlibなど)したい tens

#はじめに 画像の分類やオブジェクト認識などの問題でDNNが注目されていまして，たくさんのサンプルコードが公開されています．これらは分類(classification)の問題ですが，回帰(regression)の問題をDNNで解きたい場面もあると思います．本稿ではtensorFlowとscikit-learnのデータセットを用いて回帰の問題を解いてみようと思います． #データセット scikit-learnの"diabetes"のデータセットを用います．これは糖尿病患者の生理学的な特徴量(10次元, real)と1年後の病状を表すターゲット(1次元, int)をセットにしたデータです．特徴量は$\pm0.2$に正規化されており，ターゲットの値域は$25<y<346$となっています．各特徴量がそれぞれの値が何を意味しているか理解していませんが，とりあえず回してみます．サンプル数は442です．

#はじめに 前回の 記事 ではtensorflow/tensorflowのイメージを元にdocker上でGPUモードのtensorflowを動かせる環境を構築しました． 先日，caffeのdocker環境を構築する機会がありまして，nvidia-dockerというものを使いました．nvidia-dockerを使うとdocker上から簡単にcudaにアクセスすることができます．今回はnvidia-dockerを使ってtensorflowを動かしてみようと思います． 追記 - 現在はtensorflow公式のイメージもnvidia-dockerを使うようになっています． #nvidia-dockerの導入 dockerを導入した環境において，以下で導入できます．

#はじめに 近年，機械学習の分野でディープラーニング(ディープニューラルネットワーク:DNN)に注目が集まっています．それに伴って様々なDNNライブラリが公開されていますが，それぞれどんな違いがあるのでしょうか（どれを使えば良いのだろう）．本稿ではDNNのネットワーク構造を，各ライブラリでどのように記述するのか比較してみたいと思います． 本稿で想定するのは，DNNについてはある程度知っているが，ライブラリについては知らないという方への説明です．各ライブラリのチュートリアルを読んで実際にコードを書いたことがある場合は，それ以上の内容はないです． #ライブラリ 多数のライブラリが公開されていますが，本稿ではchainerとTensorFlowの2つを扱います．将来的には他のライブラリについても追加できればと思っていますが． 以下ではまず各ライブラリの簡単な基本情報だけまとめてみます．速度等の比