タグ

2017年2月3日のブックマーク (4件)

  • 基本的なRecurrent Neural Networkモデルを実装してみた - Qiita

    Recurrent Neural Network(再帰型ニューラルネット)に関心はあるが,なかなかコード作成に手がつかない,このようなケースが多くないだろうか?理由はいくつかあるが,私の場合は次のようなものが思い当たる. 単純にネットワークの構成が複雑.MLP(Multi-layer Perceptron)から入門してCNN(Convolutional-NN)に進むまでは,特殊なLayerがあるにせよ,信号の流れは順方向のみであった.(誤差の計算は除く.) MLPやCNNにおいては分かりやすい例題,(Deep Learningの’Hello World'と称される)"MNIST" があったが,そのような標準的な(スタンダードな)例題がRNNにはない. 因みにTheanoのDeep LearningやTensorFlowのTutorialは,言語モデルを扱ったものである.言語モデルに精通され

    基本的なRecurrent Neural Networkモデルを実装してみた - Qiita
    oasis440
    oasis440 2017/02/03
  • RNNで来月の航空会社の乗客数を予測する:TFLearnでLSTMからGRUまで実装しよう - DeepAge

    Recurrent Neural Network 時系列データを扱うRNN Long Short-Term Memory Networks 来月の航空会社の乗客数を予測する TFLearnと必要なライブラリのインストール まずは乗客数のデータを可視化してみる LSTMネットワークを構築しよう TensorBoardで誤差を可視化する 時系列分析での予測精度の指標 RMSE(Root Mean Squared Error) RMSLE(Root Mean Squared Logarithmic Error) MAE(Mean Absolute Error) MAPE(Mean Absolute Percentage Error) 結果を可視化する Window幅を変えてみる GRU(Gated Recurrent Unit)を使う GRUの層を増やしてみる LSTM学習のコツ まとめ 参考

    RNNで来月の航空会社の乗客数を予測する:TFLearnでLSTMからGRUまで実装しよう - DeepAge
  • ブロックチェーンが世界を変える・・・・かもしれない

    ブロックチェーンが世界を変える・・・・かもしれない BMR; Blockchain makes Revolution 2017.01.31 Updated by Ryo Shimizu on January 31, 2017, 09:46 am JST 「ブロックチェーンを侮るな」 筆者に近しい友人の言葉を信じて、ここ一ヶ月くらい、ブロックチェーンを勉強しています。 もとは「サトシ・ナカモト」という謎の人物が開発したビットコインから始まるブロックチェーン。うん、たしかに侮っていました。 原理的には、非常に高度な暗号を「採掘」することで、この暗号に価値がある、ということにして通貨を定義するビットコイン。そして、ビットコインを実現するためのブロックチェーンという技術が、どうやらものすごいことになっていそうです。 ブロックチェーンを実現する技術の根幹はハッシュです。 ハッシュ・・・つまりプログラ

    ブロックチェーンが世界を変える・・・・かもしれない
  • 可変長ミニバッチを使ったChainerの系列学習の実装 - Qiita

    はじめに Chainer 1.16.0 のリリースでNStepLSTMが実装されました。 NStepLSTMはその名のとおりLSTMの多層化が容易に実現できるモデルとなっています。 内部的にはcuDNNで最適化されたRNNが使われており、従来のLSTMに比べて高速に動作します。 さらにNStepLSTMではミニバッチのデータの長さをそろえる必要がなくなり、各サンプルをリストに入れたものをそのまま入力できるようになりました。 これまでのように-1でpaddingしてignore_label=-1とwhereを駆使したり、データの長さ順にソートしたリストを転置して入力したりという手順が不要になりました。 そこで今回はこのNStepLSTMを使って系列ラベリングの学習をしてみました。 従来のLSTMとのインタフェースの違い NStepLSTMはこれまでのLSTMと入出力が異なるので、今まで実装し

    可変長ミニバッチを使ったChainerの系列学習の実装 - Qiita