PFNのエンジニアさんが公開してるJupyter Notebookが実践的なハンズオン形式でディープラーニング（Chainer）の入門に最適 - karaage. [からあげ]
Chainerでディープラーニング ここのところ、ディープラーニングのフレームワークはTensorFlowを使っています。以前はChainerも使っていたのですが、Chainer v2.0になり、以前画像認識とか試していたコードも動かなくなってしまい、やる気を失っていたのですよね。 そんな折、たまたまNVIDIAの機械学習のセミナを受ける機会があったのですが、GPU(Titan)積んだサーバに、Jupyterの環境が構築されていて、参加者はサーバにアクセスしてエンターキー連打していくだけでそれっぽい結果が出て、凄いやった気分になるし、絶対初心者は自分で環境出来ないからNVIDIAの環境にお金払うことになるしで、とてもよく設計されたセミナでした。 と書くと凄い悪徳セミナのようですが、Jupyterを使って、説明を読んでから、実際にコードを実行してその結果を確認していくというハンズオン形式は、
![PFNのエンジニアさんが公開してるJupyter Notebookが実践的なハンズオン形式でディープラーニング（Chainer）の入門に最適 - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/f727b025027587419683070becd594c9ffdab3ec/height=288;version=1;width=512/https%3A%2F%2Fcdn.image.st-hatena.com%2Fimage%2Fscale%2Fae5f6bbd483ceb32b3b165ad76932f3c59776e01%2Fbackend%3Dimagemagick%3Bversion%3D1%3Bwidth%3D1300%2Fhttps%253A%252F%252Fcdn-ak.f.st-hatena.com%252Fimages%252Ffotolife%252Fk%252Fkaraage%252F20171002%252F20171002221628.png)
ChainerでWaveNetによる音声合成のチュートリアルを書いてみた - 金融と工学のあいだ
Introduction このチュートリアルではWaveNetを使ったボコーダーにより人の音声を合成します。実行できるチュートリアルは最下部にあります。 ボコーダーとは、音声をパラメータ化した入力を元に音声を合成することです。例えば、ロボットボイスは、人の音声からその発話の特徴量をパラメータとして取得し、それを元にロボットの音色の音声を合成しています。そのため、音声合成で一般的なText-to-Speech(TTS)のように文字列を入力とするのではなく、音声を入力として音声合成します。 WaveNetは、生の音声波形を生成するDeep Neural Networkです。 上記の画像のように、音声波形はあるサンプリングレートで毎時刻の値で波形が保存されていますが、それをWaveNetは生成します。また、今回はボコーダーということで、ランダムに音声を生成するのではなく、入力した音声と似た発話の
chainerで最適化数学 - Qiita
この記事はTSG Advent Calendar 2017/IS18er Advent Calendarの12日目の記事として書かれました。 (ちょっとタイトルが大げさすぎる？) はじめに こんなものをchainerで作りました。(アニメーションはmatplotlib) 以下で出てくるコードをまとめたものはここにあります。 ソースファイル 経緯 この間ネットサーフィンをしていたらこんなものを見つけました。 最適化数学で新年の挨拶(ニコニコ動画） 見てみると定点の周りを別の点が回り、さらにその点の周りを別の点が回り…を繰り返し、それらの点を結んでいろいろな図形を作っているようです。この動画では数字の2, 0, 9を描いていました。 これを僕も作りたい！と思ったので、この方のブログへ行き解説を読んでみました。(http://kogarashi.net/pitchblende/archives/
PyTorchではじめるチャットボット - Qiita
対象読者 チャットボットを作成したい方 QRNNがどの分野で適用可能か知りたい方 PyTorchを試してみたい方 はじめに Chainerで学習した対話用のボットをSlackで使用+Twitterから学習データを取得してファインチューニングがおかげ様で人気な記事になっているのでPyTorchを使用して同様のチャットボットを作成しました。 チャット例 システム構成 システム構成の違いは事前学習なしで学習している点です。それでも動作したQRNNはかなりのパフォーマンスを発揮できることが期待できます。 以前の構成 今回の構成 手法 QRNN RNN: 過去の情報を利用して学習するため長い文章生成やセンサーデータなどに対して有効に働くが構造上、過去の情報を使用するため並列化処理が難しい。 CNN: RNNに比べて並列化が容易であり、自然言語の分野にもいくつか適用されてきているがRNNと違い過去の情
AWS GPU インスタンスにおける ChainerMN の分散効率に対する評価 - Qiita
AWS EC2 インスタンスにおける ChainerMN の分散効率に対する評価を実施した。ChainerMN のバージョンは 1.0.0。 ChainerMN の主張を考えると、1 epoch 辺りの速度ではなく、精度の上昇率に対する速度を出したほうが適切な気がするが、それは難しいので 1 epoch 辺りの速度で効率を計算する。 AWS の p3 (v100) インスタンスもつい最近ローンチされたので、p2 と p3 インスタンスで評価を実施した。 バージョンなど AWS p2 (k80) および p3 (v100) インスタンス Ubuntu 16.04 Python 3.5.2 (/usr/bin/python3 of Ubuntu 16.04) CUDA 9.0 cuDNN 7.0.3 Chainer 4.0.0a1 CuPy 3.0.0a1 ChainerMN 1.0.0 実行
Chainer v2 and future dev plan
Chainer v2.0.0 was released on June 1, 2017, introducing significant changes including breaking backward compatibility and a cleaner API. Key updates include the separation of CuPy into its own repository, a new configuration for training modes, and features for memory optimization and advanced indexing. Future plans include enhancing backpropagation capabilities and improving documentation and te
Deep Learning Framework Comparison on CPU
Le document compare la rapidité de plusieurs frameworks de deep learning, notant que TensorFlow et Caffe sont rapides, tandis que Chainer est considéré comme lent en raison de son implémentation en Python. Il mentionne également des versions spécifiques de TensorFlow. Le document évoque aussi des incertitudes sur la performance de MXNet.
為替をDeepLearningで予測してみた話 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 概要 現在の日付を$T$とすると、$T+1$から$T+30$までにおける日次価格の単純移動平均をDeepLearningを使って予測し、 ロングポジションを持った（もしくはショート）時の価格より、予測した移動平均を上(下)回れば利益確定するようなシミュレーション売買を行いました。また、３０日保持したら強制的に手仕舞いするようにします。 エントリーは日時毎に残高があれば全力で行うようにします。 ※オレンジのラインが30日後の30日単純移動平均になります。緑がx軸の日付時点における為替価格です。 使用したDLフレームワーク chainer
Variational Autoencoder徹底解説 - Qiita
とします。これはReconstruction Errorと呼ばれます。入力したデータになるべく近くなるように誤差逆伝播法で重みの更新を行うことで学習することができます。 1-2. Variational Autoencoder(VAE) VAEはこの潜在変数$z$に確率分布、通常$z \sim N(0, 1)$を仮定したところが大きな違いです。通常のオートエンコーダーだと、何かしら潜在変数$z$にデータを押し込めているものの、その構造がどうなっているかはよくわかりません。VAEは、潜在変数$z$を確率分布という構造に押し込めることを可能にします。 イメージは下記です。 まだよくわかりませんね。実際にプログラムを動かしたものを見ると少しイメージが湧くかと思います。 まずは入力と出力を対比させてみます。（これは$z$の次元を20に設定して学習したものです。）ちょっとぼやっとしていますが、元の形
Chainer-GAN-lib Release - Preferred Networks Research & Development
We released chainer-GAN-lib: the collection of Chainer implementation of recent GAN variants. This library is targeted to those who think “the progress of GAN is too fast and hard to follow”, “Experiments in GAN articles can not be reproduced at all”, “How can I implement the gradient penalty with Chainer?” https://github.com/pfnet-research/chainer-gan-lib Characteristics of chainer-GAN-lib Good s
Chainer2.0がリリース【今後の安定版】とりあえず抑えておきたい変更点 - HELLO CYBERNETICS
Chainer2.0がリリースされ、今後の安定版として使われることになりました。以後、これからChainerを本格的に使っていく場合はこちらを利用していくことになります。 Chainerを再インストールする cupyの導入 chainer2.0の変更点 トレーニングモードとテストモード Chainer1 chainer2 Variableオブジェクトについて 揮発性の操作 VariableとVariableNode Variableオブジェクトの中身 パラメータの初期値について Chainer関連記事 Chainerを再インストールする Chainerの再インストールはpipを使えば簡単に終わります。 まずは既存のChainerをアンインストールしましょう pip unistall chainer これだけですぐに終わります。その次に、以下のコマンド pip install chainer
Chainer v2.0.0 and our future development plans
Chainer v2.0.0 and our future development plans By Seiya Tokui Jun 1, 2017 In Announcement We have released Chainer v2.0.0 today! This is the first major update of Chainer. The detailed updates from the beta release can be found in the release notes. You can also find the differences between v1 and v2 in the Upgrade Guide. Note that the repository has been moved to chainer/chainer. Any access to t
分散深層学習パッケージ ChainerMN 公開 - Preferred Networks Research & Development
Chainer にマルチノードでの分散学習機能を追加するパッケージ ChainerMN のベータ版を公開しました。 GitHub ドキュメント ChainerMN とは ChainerMN は Chainer の追加パッケージで、Chainer を用いた学習を分散処理により高速化できます。柔軟で直感的に利用できる Chainer の利便性をそのままに、学習時間を大幅に短縮できます。1 ノード内の複数の GPU を活用することも、複数のノードを活用することもできます。既存の学習コードから数行の変更で ChainerMN を利用可能です。ChainerMN は既に社内の複数のプロジェクトで実証が行われています。 Chainer を用いた通常の学習における 1 イテレーションは下図のように Forward, Backward, Optimize の 3 つのステップからなります。 Chainer
CodeIQについてのお知らせ
2018年4月25日をもちまして、 『CodeIQ』のプログラミング腕試しサービス、年収確約スカウトサービスは、 ITエンジニアのための年収確約スカウトサービス『moffers by CodeIQ』https://moffers.jp/ へ一本化いたしました。 これまで多くのITエンジニアの方に『CodeIQ』をご利用いただきまして、 改めて心より深く御礼申し上げます。 また、エンジニアのためのWebマガジン「CodeIQ MAGAZINE」は、 リクナビNEXTジャーナル( https://next.rikunabi.com/journal/ )に一部の記事の移行を予定しております。 今後は『moffers by CodeIQ』にて、 ITエンジニアの皆様のより良い転職をサポートするために、より一層努めてまいりますので、 引き続きご愛顧のほど何卒よろしくお願い申し上げます。 また、Cod
DQNの生い立ち ＋ Deep Q-NetworkをChainerで書いた - Qiita
はじめに そもそもDQNが作りたかったわけじゃなくて、他の目的でChainerを使いたかったのでその練習にDQNを書いたんですが、せっかくだし公開しようと思いました 公開しました 。またどうせ公開するなら、この機会にこれ（Q学習+関数近似）関連で持っている知識をついでに整理しようと思ってまとめました。 ニュース記事とかNatureとかNIPSの論文だけ読むと、DQN作ったDeepmind/Googleすげー！！！って感覚になりそうですが、強化学習的な歴史的経緯を考えると強化学習+深層学習になった、むしろかなり当然の成り行きで生まれた技術であることがわかります。（ATARIのゲームを人間以上のパフォーマンスでプレイするというのがビジュアル的にわかりやすかった$\leftrightarrow$問題設定が良かったというのもあります。） この記事ではNIPSとNatureの以下の２本の論文 ・ V
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Makky on Twitter: "PFNインターンの成果物です！ >> Chainerの実験に対してログを可視化したり外部制御するExtension＆WebアプリをPFNで作った on @Qiita https://t.co/09Uzy6Tm2i"
UsingChainerMN
ChainerでLSTMを使う (NStepLSTM, NStepBiLSTM) - Qiita
AWSのGPUインスタンスでChainerMNを動かす環境構築 - Qiita
GitHub - chainer/chainerrl: ChainerRL is a deep reinforcement learning library built on top of Chainer.
