Sequencial Model と Functional API Model です。 【Sequential Model】 model = Sequential() model.add(Dense(32, input_dim=784)) model.add(Activation('relu'))
KerasのFunctional API Modelの構造を理解する（ディープラーニング）
Sequencial Model と Functional API Model です。 【Sequential Model】 model = Sequential() model.add(Dense(32, input_dim=784)) model.add(Activation('relu'))
時系列予測を一次元畳み込みを使って解く with Keras - Qiita
こんにちはみなさん。 本記事はKerasアドベントカレンダーの6日目となります。 他の方と比べてしょうもない記事ですが、がんばります。 時系列予測とか時系列解析をするのに、機械学習界隈で一般的な手法はRNN ( リカレントニューラルネットワーク ) だと思うのですが、これの理論て結構難しくて、特にLSTMなんて、私は未だによくわからないし、コードを見てもちんぷんかんぷんです。 そんなの知らなくてもとりあえず動けば問題ないっちゃ問題ないんですが、やっぱりある程度自分が動きを理解できているもののほうが、安心して使えるというものです。 というわけで、一次元畳み込みを使って時系列解析をするという話が出てきているので、kerasを使ってその使い心地を調べてみました。 畳み込み( Convolution ) を使ったニューラルネットワーク ( CNN ) は、今や機械学習の代名詞のようなものですが、C
RWA (Recurrent Weighted Average) モデルを学習させてみた in Keras - Qiita
RWA (Recurrent Weighted Average) とは？ 論文 (Machine Learning on Sequential Data Using a Recurrent Weighted Average) はこちら 上図の c が RWA のモデル概略図です (a は通常の LSTM、b はアテンション付きの LSTM)。 RWA とは、系列データを扱う再帰的ニューラルネットワーク (Recurrent Neural Networks; RNN) の派生のひとつです。 提案論文中では、RNN の実装としてよく使用されている LSTM と比較して、 精度が良い 収束が速い パラメータ数が少ない と、良いことずくめのことが書いてあります。 その主張の強さとアーキテクチャの簡明さに驚き、また、現在ほぼデファクトスタンダードとなっている LSTM を本当に上回ることができるのか
TensorFlow : RNN – リカレント・ニューラルネットワーク & LSTM （コード解説） – ClassCat® AI Research
データのダウンロードと準備 このチュートリアルに必要なデータは Tomas Mikolov の web ページからの PTB データセットの data/ ディレクトリにあります : http://www.fit.vutbr.cz/~imikolov/rnnlm/simple-examples.tgz データセットは既に前処理されていて、文の最後のマーカーと珍しい単語のための特殊なシンボル (<unk>) を含む、全体で 10000 の異なる単語を含みます。 ニューラルネットワークが処理しやすいようにこれら全部を reader.py で一意の整数識別子に変換します。 ptb_word_lm.py#main は、最初に reader.py#ptb_raw_data を呼び出してデータセットを取得します。 def main(unused_args): if not FLAGS.data_path
これもある意味Deep Learning，Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub
これもある意味Deep Learning，Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] この投稿は Machine Learning Advent Calendar 2013 の9日目の記事です． 本日は，Neural Network(NN)を利用したLanguage Model(LM)，つまりNeural Network Language Model(NNLM)の一種であり， Recurrent Neural Network(RNN)を使ったRecurrent Neural Network Language Model(RNNLM)について説明します． RNNLMに行く前置きとしてざっくりいくつか用意したので，知ってそうな人は先へ進んでください． 前置きを入れているうちに長くなりすぎた...． しかも，そもそもNNの説明
![これもある意味Deep Learning，Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub](https://cdn-ak-scissors.b.st-hatena.com/image/square/cac50dfe53f692699058da4611c63ceb7fb568f7/height=288;version=1;width=512/http%3A%2F%2Fkiyukuta.github.io%2F_images%2Fneural_language_model.png)
今更聞けないLSTMの基本 - HELLO CYBERNETICS
ディープラーニングで畳込みニューラルネットに並ぶ重要な要素のであるLong Short-Term Memoryについて、その基本を解説します。 LSTMとは リカレントニューラルネットワーク LSTMの役割 LSTMの計算 Output Gate Input GateとForget Gate Forget Gate Input Gate LSTMの肝であるMemory Cell周辺 Forget Gate側の出来事 Input Gate側での出来事 Cellの手前での出来事 出力付近の話 LSTMの役割 セル付近の役割 Forget Gateが過去の情報をどれだけ保持するか決める 全体を通しての役割 最後に LSTMとは LSTMとはLong Short-Term Memoryの略です。 short-term memoryとは短期記憶のことであり、短期記憶を長期に渡って活用することを可能に
RNNを使った機械翻訳モデルで遊ぶ - もちもちしている
この記事はDeep Learning Advent Calendar 5日目の記事です． はじめに 皆様，ご無沙汰にしております．olanleedです． とうとうAdvent Calendar以外でブログを更新しないダメな人間になってしましました．更新しようといろいろ考えてたのですが，学会やらジャーナルへの論文投稿などがあって，なかなか厳しいものがありました． この12月は異常なまでにAdvent CalendarとLTを入れたので，怒涛の更新になりそうです．お付き合いください． それでは本題に入りたいと思います． RNNを用いた機械翻訳 Deep Learningが様々な分野で大きな成果を出している現在，統計的機械翻訳でもRecurrent Neural Network(RNN)を活用した研究が成功を収めています． 今回はRNN(LSTM)を用いた翻訳モデルの一つであるSequence
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
CS395T
Recurrent Neural Networks with CNTK and applications to the world of ranking