Get the latest AI news, courses, events, and insights from Andrew Ng and other AI leaders.
次世代システム研究室のJK(男)です。初ブログです。 よろしくお願いします。 今回はディープラーニングの中でも、時系列解析に強いLSTM(Long short-term memory)を紹介します。時系列解析のひとつのターゲットが金融商品の価格予想です。最近、英国のEU離脱で市場が大荒れですが、そういう市場の荒れ具合を予想できたら色々と嬉しいですよね。そんな予想をディープラーニングでやってみた、というのが今回の主旨です。 この記事は、参考文献[1]の論文を参考にしました。今回の記事に興味を持ったら、ぜひ読んでみてください。 1. LSTM LSTMは、RNN (Recurrent Neural Network)の改良版です。 そこで、まずRNNについて解説します。 RNNはディープラーニングの一種ですが、普通のニューラルネットと違い、現在の入力値に加えて自身の前の状態を入力しています。詳し
FXシストレプログラムのディープラーニング版を作ろうとして、 偶然で最強のアルゴが誕生した(機械学習でFXシステムトレード) - Ryoの開発日記 に、 [TensorFlowで株価予想] 0 - Google のサンプルコードを動かしてみる - Qiita のTensorFlowコードを移植しようとしたけど、結構面倒で挫折したので、前に書いた 簡単なディープラーニングのサンプルコード (2入力1出力/2クラス分類) with Keras (Chainerは挫折) - Ryoの開発日記 のKerasによるDNNのコードをGoogleのやつに合わせて移植してみた。 3000 epoch回した感じだと、最終的に近い収益が得られたが、安定して上がっている感じにはならなかった(=頑強性が低い。最後の数か月でどかっと上がっている)。 ので、30000 epoch回した結果を見てみる。 学習時間は10
VGG16はILSVRCのコンペ用に学習されたニューラルネットなのでImageNetの1000クラスを認識できる。しかし、前の記事(2017/1/4)で実験したように「ひまわり」のようなImageNetに存在しないクラスはそのままでは認識できない。 この問題を解決するためVGG16の高い認識能力を継承しつつ、新しい独自のクラス(今回は犬か猫かの2クラス)を認識できるように少量のデータでニューラルネットの重みを再調整することをFine-tuningという*1。「少量のデータで」というところがすごく重要。もし大量データでないとダメだったらAWSの利用料で破産するのでこの記事は書けない(^^;; 今回は、Keras Blogの - Building powerful image classification models using very little dat を参考に犬と猫の2クラス認識を
この記事は Wacul Advent Calendar 18日目の記事です。 自己紹介 株式会社WACULの解析チームで1年前から働いています。 python歴:3週間くらい やること pythonの練習 & 確率的なディープラーニングの勉強目的メインで、深層ボルツマンマシンをスクラッチ実装してみます。理論面は全て以下の本の中にある内容です。 『深層学習 (機械学習プロフェッショナルシリーズ)』 岡谷 貴之 (著) 『深層学習 Deep Learning』(監修:人工知能学会) 本記事ではまず準備として制限ボルツマンマシンを実装します。次回、制限ボルツマンマシンを積み上げて深層ボルツマンマシンを構築します。 ボルツマンマシンの簡単な説明 確率分布は、端的には「値の集合に対して、それが得られる確率密度(確率質量)を対応させる関数」なので、全体としては「値の集合を生成する背後のメカニズム」とし
目次 定義と構造 復元 確率分布 コードサンプル:Deeplearning4jを使ったIrisで制限付きボルツマンマシンを起動する パラメータ及びkについて 連続的なRBM 結論及び次のステップ 定義と構造 Geoff Hintonによって開発された制限付きボルツマンマシン(RBM)は、次元削減、分類、 回帰 、協調フィルタリング、特徴学習、トピックモデルなどに役立ちます。(RBMなどの ニューラルネットワーク がどのように使われるか、さらに具体的な例を知りたい方は ユースケース のページをご覧ください。) 制限付きボルツマンマシンは比較的シンプルなので、ニューラルネットワークを学ぶならまずここから取り組むのがよいでしょう。以下の段落では、図と簡単な文章で、制限付きボルツマンマシンがどのように機能するのかを解説していきます。 RBMとは浅い2層のニューラルネットであり、ディープビリーフネッ
Modeling and generating sequences of polyphonic music with the RNN-RBM¶ Note This tutorial demonstrates a basic implementation of the RNN-RBM as described in [BoulangerLewandowski12] (pdf). We assume the reader is familiar with recurrent neural networks using the scan op and restricted Boltzmann machines (RBM). Note The code for this section is available for download here: rnnrbm.py. You will need
機械学習で何ができるの?深層学習(ディープラーニング)だと何が違うの? というのは他の方に任せるとして、やっぱりMNIST以外のデータで色々試してみたいですよね。 というわけで為替(FX)の予測でもやってみます 関連シリーズ - 第1回 TensorFlow (ディープラーニング)で為替(FX)の予測をしてみる - 第2回 ディープじゃない機械学習で為替(FX)の予測をしてみる - 第3回 TensorFlow (ディープラーニング)で為替(FX)の予測をしてみる CNN編 他の方の研究、記事など 調べてみると色んな方がやっています。この辺とか、Qiitaだと以下が有名なようです。 [TensorFlowで株価予想] 0 - Google のサンプルコードを動かしてみる TensorFlowを使った為替(FX)のトレードシステムを作るチュートリアル 学習に用いるデータを大きく分けると以下で
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く