ChainerでRecursive Neural Networkによる感情分析のチュートリアルを書いてみた - 金融と工学のあいだ
Introduction このチュートリアルではRecursive Neural Networkを使って文章の感情分析を行います。 感情分析とは、自然言語処理(Natural Language Processing：NLP)のタスクの1つで、文章に対して書き手の感情(sentiment)を識別する問題です。感情を表現する場合、基本的には肯定的か、否定的かを段階に分けて表現します。例えば、今回使用するデータセットの場合、1(really negative)、2(negative)、3(neutral)、4(positive)、5(really positive)のように5段階で感情を表現しています。 cited from [1] このチュートリアルでは、感情分析をRecursive Neural Networkで行います。 Recursive Neural Networkとは木構造の再帰的な
Chainer v2でパラメータごとに更新ルールの設定を行う - Qiita
はじめに Chainerではv2からUpdateRuleが導入され、UpdateRuleインスタンスの操作を行うことでパラメータごとの更新ルールを設定することができるようになりました。 例えば学習率を変えたり、一部のパラメータの更新を抑制することができます。 パラメータとは 本投稿でのパラメータはchainer.Parameterインスタンスを指します。 chainer.Parameterはchainer.Variableを継承したクラスで、chainer.Linkが持つパラメータを保持する目的で使われます。 例えばchainer.functions.Convolution2DはWとbという2つのパラメータを持ちます。 UpdateRule chainer.UpdateRuleはパラメータをどのように更新するかを定めたクラスです。 SGD等の更新アルゴリズムに対応した派生クラスが存在します
対話モデルの訓練/評価フレームワーク ParlAI がすごい - ディープラーニングブログ
こんにちは，Ryobot です． 本稿では ParlAI の基本的な使用法やユーザーが独自に定義できるエージェントの実装方法を解説しました． 以下，PyTorch, Chainer, TensorFlow によるエージェントの実装例を GitHub にて公開したので適宜ご覧ください． ParlAI Agent examples with PyTorch, Chainer and TensorFlow 目次 ParlAI とは？ インストールから example 実行まで ParlAI Agent の実装方法 1. 実装の流れ 2. PyTorch で RNNAgent を実装する 3. Chainer で RNNAgent を実装する 4. TensorFlow で RNNAgent を実装する 5. PyTorch で AttentionAgent (seq2seq with Atten
PFNのエンジニアさんが公開してるJupyter Notebookが実践的なハンズオン形式でディープラーニング（Chainer）の入門に最適 - karaage. [からあげ]
Chainerでディープラーニング ここのところ、ディープラーニングのフレームワークはTensorFlowを使っています。以前はChainerも使っていたのですが、Chainer v2.0になり、以前画像認識とか試していたコードも動かなくなってしまい、やる気を失っていたのですよね。 そんな折、たまたまNVIDIAの機械学習のセミナを受ける機会があったのですが、GPU(Titan)積んだサーバに、Jupyterの環境が構築されていて、参加者はサーバにアクセスしてエンターキー連打していくだけでそれっぽい結果が出て、凄いやった気分になるし、絶対初心者は自分で環境出来ないからNVIDIAの環境にお金払うことになるしで、とてもよく設計されたセミナでした。 と書くと凄い悪徳セミナのようですが、Jupyterを使って、説明を読んでから、実際にコードを実行してその結果を確認していくというハンズオン形式は、
![PFNのエンジニアさんが公開してるJupyter Notebookが実践的なハンズオン形式でディープラーニング（Chainer）の入門に最適 - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/c9ae38e10dbf0fbb5c2724a8b81e9bbc30dc1764/height=288;version=1;width=512/https%3A%2F%2Fcdn.image.st-hatena.com%2Fimage%2Fscale%2F16cfc29fe9beb8e223efb9dcdb760b322a28eb02%2Fbackend%3Dimagemagick%3Bheight%3D1300%3Bversion%3D1%3Bwidth%3D1300%2Fhttps%253A%252F%252Fcdn-ak.f.st-hatena.com%252Fimages%252Ffotolife%252Fk%252Fkaraage%252F20171002%252F20171002221628.png)
chainer.cuda.elementwiseを使ってGPUで処理を行う - Qiita
はじめに Chainerのfunctionsのコードを読んでいるとcuda.elementwiseとかcuda.reduceの呼び出しを見かけることがあります。 これらは独自の処理をGPU上で実行するためのメソッドです。 Chainer functionの実装には欠かせないメソッドと言えるわけで、Chainer中級者になるために必要そうなので調査しました。 この記事ではcuda.elementwiseを扱い、cuda.reduceについては説明しません。 cuda.elementwiseの説明は以下にあります。 http://docs.chainer.org/en/stable/cupy-reference/kernel.html またSlideShareにPreferred Networksの奥田氏による解説があります。 http://www.slideshare.net/ryokuta
深層学習フレームワークChainerの勉強に役立つページのまとめ - Qiita
はじめに 深層学習フレームワークChainerを初めて使ってみたい方やChainerを使って画像処理、言語処理などをしてみたい方向けにChainerに関する様々なページをまとめてみました。 各ページの簡単な要約も記載しています。 「情報が多すぎて何から見ればいいか分からない」という方のお役に立てれば幸いです。 基本編では、Chainerに付属するサンプルプログラムを使ったページ、 実践編では、MLP, RNN, CNNをそれぞれ使って画像分類や画像認識、自然言語生成をしているページを中心に紹介します。 ニューラルネットワーク・Chainerが初めての方向け Chainerの導入方法・環境設定 Chainer公式サイト CHAINER 1.5.1をUBUNTU14.04にインストール Chainerで始めるニューラルネットワーク Introduction to chainer Chainer
Chainerでアニメキャラの目からハイライトを消す - にせねこメモ
pix2pix pix2pixというモデルがある。入力画像と、それと一対一対応する変換ターゲットの画像を用意すると、その間の変換を自動で学習してくれるというものである。 元論文はこれ: [1611.07004] Image-to-Image Translation with Conditional Adversarial Networks この論文内では、モノクロ写真に着色するだとか、線画に色を付ける、航空写真から地図を生成する、ラベリング画像から写真を復元する、などが行われている。要するに、何らかの画像のペアを用意すれば、ペア間の画像変換が学習できるっぽい。 それで、入力画像としてアニメキャラの顔の画像を用意し、出力画像として入力画像から目のハイライトを消したものを用意すれば、アニメキャラの目からハイライトを消すモデルが学習できないだろうか。 幸い、pix2pixのChainer実装が公
Variational Autoencoder徹底解説 - Qiita
とします。これはReconstruction Errorと呼ばれます。入力したデータになるべく近くなるように誤差逆伝播法で重みの更新を行うことで学習することができます。 1-2. Variational Autoencoder(VAE) VAEはこの潜在変数$z$に確率分布、通常$z \sim N(0, 1)$を仮定したところが大きな違いです。通常のオートエンコーダーだと、何かしら潜在変数$z$にデータを押し込めているものの、その構造がどうなっているかはよくわかりません。VAEは、潜在変数$z$を確率分布という構造に押し込めることを可能にします。 イメージは下記です。 まだよくわかりませんね。実際にプログラムを動かしたものを見ると少しイメージが湧くかと思います。 まずは入力と出力を対比させてみます。（これは$z$の次元を20に設定して学習したものです。）ちょっとぼやっとしていますが、元の形
仮想通貨取引所のPoloniexからAPI経由でデータ取得し、ディープラーニング（Chainer）で翌日の価格予測をしよう - Qiita
仮想通貨取引所のPoloniexからAPI経由でデータ取得し、ディープラーニング（Chainer）で翌日の価格予測をしようPython機械学習DeepLearning人工知能Chainer はじめに みなさま、こんにちは。 株式会社キカガク代表取締役の吉崎（Twitter: @yoshizaki_kkgk）です。 久々の休日にせっかくなら面白いことをしよう！と思いついたのが、今回の記事です。 ぜひ、読者の皆様にとって、データ解析のアプローチについて、理解の深まる記事となっておりましたら幸いです。 意外にも反響が！ 前回、仮想通貨取引所のLiquiからデータをAPI経由で取得する初心者向けの記事を書きました。 前回の記事：仮想通貨取引所LiquiのAPIからPythonで情報を取得してみよう 今回この記事を書いた経緯 前回の記事に反響があったことももちろんですが、弊社で開催している「人工知能
Chainer で Stacked Auto-Encoder を試してみた - 技ラボ
Deep Learningフレームワークの一つであるChainerを用いてStacked Auto-Encoderの処理を実装し、MNIST (手書き文字認識) のデータの分類を試してみました。 なお、本記事はNeural Network (以降NN)、Deep Learning についての基本的な知識、ChainerやPythonについての基本的な知識があることを前提としています。 (2016/03/18 追記・修正) FunctionSet で書いていたソースコードをChainer 1.5 で追加された仕組み「Chain・Link」で書きなおしてみました。以下、通常版として公開しています。 合わせて、全体的に「Chain・Link」使った内容に修正しています。 本記事で作成したソースコードはGithub上に公開しています。 (通常版) https://github.com/ISP-Ka
Chainerのソースを解析。学習ループは Trainer に | コード７区
MNIST のサンプルの 大体 の流れを追ってみます。（詳しい処理はこちらで） バージョンは 1.14.0 、2016年9月5日時点のソースです。 全体の流れはこうなっており ① モデルの生成 ② オプティマイザの生成 ③ 学習データのダウンロード ④ trainer、updater の生成 ⑤ Extension の登録 ⑥ 学習ループ ソースはこんな感じです。
勤労感謝の日なのでChainerの勤労(Training)に感謝してextensionsを全部試した話 - EnsekiTT Blog
つまりなにしたの Chainerの抽象度を飛躍的に高めたTrainerにはextensionsがある。 せっかくだからextensionsを全部使ってみた。 2017年11月10日 追記 Extensionを自分で作ってみました。 ensekitt.hatenablog.com 背景 最近やっとChainerのバージョンを上げました。 qiita.com を読んで、すごい勢いで僕のソースコードも抽象化したわけですが、 僕はまだまだextensionsの素敵機能を素敵に使いこなせてない！ というわけで、勤労感謝の日にChainerの勤労(Training)に感謝してextensionsを全部試した。 Trainer extensions Trainer extensions — Chainer 3.0.0 documentation dump_graph 概要 グラフをDOT Languag
Chainerを使って写真を新海誠さん風イラストに画風変換する - Into the Horizon
この記事はChainer Advent Calendar 2016の14日目の記事になります。 概要 こちらのツイートの研究について、詳しくお話します。 新海誠さんの世界観が大好きなのですが、撮影した写真を新海誠さん風のイラストに自動変換できたら面白いなと思い、システムを試作してみました。 上の写真を変換したのが下のイラストです。クオリティはまだまだですが、上手く使えば使えそう（自動変換後、若干の手動補正を行っています） pic.twitter.com/qY07hmzvHF— null (@NrNrNr7) 2016年9月22日 @NrNrNr7 比較用に映画のシーン。全体の色合いはかなり似せることができているのですが、使っているアルゴリズムの弱点で部分的におかしな色になってしまうのが課題です。 （画像はそれぞれ言の葉の庭、秒速5センチメートル、君の名は。より引用） pic.twitter
Chainer + Dask で 並列 Deep Learning したい <1> - StatsFragments
この記事は Chainer Advent Calendar 2015 17 日目の記事です。 はじめに サイズが大きいデータを Deep Learning すると学習に時間がかかってつらい。時間がかかってつらいので並列処理して高速化したい。 並列化するのに良さそうなパッケージないかな? と探してみると、Dask という並列 / Out-Of-Core 計算パッケージを見つけた。これと Chainer を組み合わせると並列処理が簡単に書けそうな気がする。 最初は MNIST を並列化してみたが、データが小さすぎるせいか むしろ遅くなってしまった。もう少し大きいデータである CIFAR-10 を使い、より深いネットワーク構造でその効果を確かめたい。 最終的には以下二つの処理を並列化することを目指す。 Data Augmentation DNN の学習 1. Data Augmentation
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChainerでLSTM + Attentionを計算する - Qiita