AWSのLinux GPUインスタンス AWSのGPUインスタンスはHVMベース。 HVMとはハードウェア仮想マシン（Hardware Virtual Machine）の略。つまりAWSのGPUインスタンスは物理GPUが接続されているのではなく仮想GPUが接続されている。（と思ってるけど、間違ってたらご指摘ください。） g2.2xlargeインスタンスの作成 お金の安い米国東部（バージニア北部）でインスタンスを作成します。 1時間あたり$0.65。（2015/9/23現在） その辺のマイクロインスタンスよりも高いので使い終わったら削除するのをお忘れなく！！ だいたいこんな手順でインスタンスを作成。 AWS Marketplaceでnvidiaと検索 Linuxを使うので、Amazon Linux AMI with NVIDIA GRID GPU Driverを選択 GPUインスタンスはg2

リカレントニューラルネットワーク言語モデル リカレントニューラルネットワーク言語モデル（ニューラル言語モデル）についてChainerのコードを使って解説してみました。 GPUについて 言語処理はすごく時間がかかるのでGPU設定をおススメしています。 しかし一概に使えば良いということではなく下記のような設定では有効に働きます。 詳細な仕組みの中身を知りたい方は下記をご覧ください。 http://www.kumikomi.net/archives/2008/06/12gpu1.php?page=1 ＊得意 行列計算 メモリにシーケンシャルにアクセスし、かつ条件分岐の無い計算（演算密度の高い処理）に強い。 ＊苦手 二分探索 メモリにランダムアクセスし、かつ条件分岐が多い。 GPUドライバ設定 AWSでのGPU設定は下記のサイトを参考に行いました。

はじめに そもそもDQNが作りたかったわけじゃなくて、他の目的でChainerを使いたかったのでその練習にDQNを書いたんですが、せっかくだし公開しようと思いました 公開しました 。またどうせ公開するなら、この機会にこれ（Q学習+関数近似）関連で持っている知識をついでに整理しようと思ってまとめました。 ニュース記事とかNatureとかNIPSの論文だけ読むと、DQN作ったDeepmind/Googleすげー！！！って感覚になりそうですが、強化学習的な歴史的経緯を考えると強化学習+深層学習になった、むしろかなり当然の成り行きで生まれた技術であることがわかります。（ATARIのゲームを人間以上のパフォーマンスでプレイするというのがビジュアル的にわかりやすかった$\leftrightarrow$問題設定が良かったというのもあります。） この記事ではNIPSとNatureの以下の２本の論文 ・ V

(2016.1.21追記)最近あまりメンテナンスしてないので1.5以上のバージョンを使ってる人には役に立たなくなったかもしれません。 (2015.12.15追記)当初はサンプルコードにリンクを貼っただけの記事でしたがチュートリアル等も含めたものに加筆中。また古くなった情報は順次削除・更新してます。 バージョンごとの互換性など こっちに移しました。1.5以上を強くお勧めします。 chainerのバージョンごとの違い(2016年1月19日現在) - studylog/北の雲 1.0 1.1 1.2 黎明期バージョン 1.3 1.4 CuPy導入 1.5 1.6 色々とパワーアップした現世代 概要・チュートリアル 概要を掴むのに適したスライド 1.5以上から始めるならこちら。 Chainerチュートリアル -v1.5向け- ViEW2015 内容は重複していますが1.4以前のバージョン時代のチュ

お久しぶりです、@mktozkです。 2ヶ月くらいブログの更新をしてませんでした。 おちこんだりもしたけれど、私はげんきです。 さて、今日はディープラーニングのフレームワークであるChainerに含まれているCupyというライブラリについて話します。 ChainerはCupyを使って様々な計算をGPU (CUDA) で行っています。 今回はこのCupyを使って楽に色んな計算をGPUに投げることを目指します。 ディープラーニングの話は全くしません。 chainer.org この記事を読んだらわかること Cupyの使い方 CupyとNumpyの両方に対応したコードの簡単な書き方 この記事には書いてないこと CUDAカーネルの書き方と使い方 この記事で使用したコードはここかここから取得できます。 ちなみに、Chainerはv1.5.1です。 GPUは速い Cupyとは Cupyの導入 Cupyの

Variational Autoencoder この論文に詳しくは記載されています。 Semi Supervised Learning with Deep Generative Models 簡単に言うと、入力の変数を潜在変数に落としてAutoencoder。 ラベルも含めた生成モデルとすることで教師データを生成することができ、半教師あり学習に応用したところ、少ない教師データでそれなりの結果がでたとのこと。 面白いのは学習したモデルに対して、任意の潜在変数を入力することでXが生成できるところ。 結果が面白いため、色んな人が紹介してくれてます。 論文紹介 Semi-supervised Learning with Deep Generative Models from Seiya Tokui www.slideshare.net http://deeplearning.jp/wp-conte

2015 - 12 - 13 Chainerを用いたマルウェア検出への取り組みについて この記事は Chainer Advent Calendar 2015 13日目 の記事です． はじめに Chainerで実装を進めているのですが，今回は構想的な話をします．ご容赦下さい． 私は 修士論文 でEディスカバリ *1 を対象に 自然言語処理 と 機械学習 を用いて研究を進めていますが，それとは別に，Deep Learningで マルウェア 検出に取り組んでいます．本当は研究室配属された時に，これで論文書きたいと思っていましたが，色々大変であることが発覚したので，個人的に細々とやっている感じです．卒業までになんとか実現しようと奮闘しております． マルウェア を 機械学習 させるための戦略 マルウェア にも様々な種類がありますが，PEフォーマット *2 の マルウェア を対象にしております． マル

Deep Learning の簡単な説明から実装、そしてChainer の使い方を紹介します。CUDA サポートについても簡単に解説します。 最新のインストール方法も含んでいます。Read less

Deep Neural Networkを使って画像を好きな画風に変換できるプログラムをChainerで実装し、公開しました。 https://github.com/mattya/chainer-gogh こんにちは、PFNリサーチャーの松元です。ブログの1行目はbotに持って行かれやすいので、3行目で挨拶してみました。 今回実装したのは”A Neural Algorithm of Artistic Style”(元論文)というアルゴリズムです。生成される画像の美しさと、画像認識のタスクで予め訓練したニューラルネットをそのまま流用できるというお手軽さから、世界中で話題になっています。このアルゴリズムの仕組みなどを説明したいと思います。 概要 2枚の画像を入力します。片方を「コンテンツ画像」、もう片方を「スタイル画像」としましょう。 このプログラムは、コンテンツ画像に書かれた物体の配置をそのま

これまでDeep LearningのアルゴリズムをTheanoで実装してきた（2015/4/29）けれど、ここらで巷で大人気のライブラリChainerにも手を出してみた。Theanoの勉強を始めたあとすぐにChainerが公開された（2015/6/9）がユーザや情報が増えるまで待っていた感じ（笑）最近はコードや実験結果などを公開してくれる人が増えてきたので非常に参考になっている。目についたものはてぶに登録しているので、興味を持った手法はがしがし勉強して追試していきたい。 Chainerのバージョンは1.3.2をベースにしている。1.3からPyCUDA/scikit-cudaを独自ライブラリのCuPyに置き換えたとのことで、以前のコードは少し修正しないと動かないようだ。その分、1.3からはインストールがシンプルになっていてとてもうれしい。1.1のころは、Chainerと直接関係ないPyCUD

第10回 NLP若手の会シンポジウム (YANS) のチュートリアルスライドです。ニューラルネットの（アルゴリズムとしての）おさらいと、Chainer v1.3.0の使い方を紹介しています。Read less