本稿ではニューラルネットワーク,誤差逆伝播法,言語モデル,RNN,LSTM,ニューラル機械翻訳の一連の手法について数理的に解説する. 前編の目次 ニューラルネットワーク 順伝播 (Forwardpropagation) 逆伝播 (Backpropagation) リカレントニューラルネットワーク (RNN) Recurrent Neural Network Language Model (RNNLM) Backpropagation Through Time (BPTT) Long Short-Term Memory (LSTM) Gated Recurrent Unit (GRU) RNN のドロップアウトとバッチ正規化 ニューラル機械翻訳 (NMT) Sequence to Sequence (seq2seq) 注意 (Attention) 双方向エンコーダー・多層LSTM 評価手法
Machine Learning Advent Calendar 2015 第14日です。去年のAdvent Calendarで味をしめたので今年も書きました。質問、指摘等歓迎です。 この記事の目的 ここ2~3年のDeep Learningブームに合わせて、リカレントニューラルネットワークの一種であるLong short-term memory(LSTM)の存在感が増してきています。LSTMは現在Google Voiceの基盤技術をはじめとした最先端の分野でも利用されていますが、その登場は1995年とそのイメージとは裏腹に歴史のあるモデルでもあります。ところがLSTMについて使ってみた記事はあれど、詳しく解説された日本語文献はあまり見当たらない。はて、どういうことでしょうか。 本記事ではLSTMの基礎をさらいつつ、一体全体LSTMとは何者なのか、LSTMはどこに向かうのか、その中身をまとめ
はじめに 機械学習を使った分析業務といっても、データの取り込み、モデリング、プロダクト化といった様々なステージに分けられ、それぞれのステージ特有のボトルネックがあるかと思います。私はその全てに対する処方箋を提示できるわけではありませんが、今回は特に、Pythonを使った機械学習モデリングのステージについてご意見しようという魂胆です。 Python は scikit-learn など機械学習用のモジュールが充実しているので、予測モデルの作成によく使われていると思いますが、予測モデルの作成というのは試行錯誤の繰り返しで、頻繁に出戻りが発生します。あるいはモデル作成のパートを分業せず、一人で試行錯誤という場面も多いと思いますが、多くの人は Jupyter notebook のような対話型エディタで作業していると思います。これも、作業が長引くにつれて、相当見づらいコードが出来上がってしまうことが予
日差しによる直射日光を軽減したい場所には、遮熱ビニールシートをおすすめいたします。遮熱の機能性をもったビニールシートは、夏場の日差しを軽減したいときや、西日など直射日光が当たりやすい場所に、ビニールカーテンとしてご利用いただけます。 ビニプロでは、遮熱機能がある糸入り透明ビニール、透明ビニール、半透明ビニールを取り扱っております。設置場所、ご要望に合わせて、遮熱ビニールカーテン・ビニールシートを1点・1枚から製作・加工いたします。 遮熱ビニールシートの特徴 遮熱ビニールシートの利用シーン 透明・半透明以外の遮熱ビニールシート 遮熱ビニールカーテン・シート一覧 ご注文方法 遮熱の機能性を持った透明ビニールシートは、熱を反射する機能性をもったビニールシートを使用することで、室内に入る熱を低減することができます。 テイジンの半透明ビニールシート、ルミナカットは放射熱を遮へいし、従来の透明ビニール
これはFujitsu Advent Calendar 2017の18日目の記事です。 掲載内容は富士通グループを代表するものではありません。ただし、これまでの取り組みが評価されて、富士通がQiitaに正式参加することになりました[リンク]。なお、内容の正確性には注意を払っていますが、無保証です。 はじめに この記事では今年発表されたディープラーニング論文(ArXivでの発表時期、発表された国際会議が2017年開催またはジャーナル掲載が2017年のもの)から私が個人的に重要だと思った論文を収集しています。また、2016年末ごろの論文も重要なものは採用しています。 以下の投稿も合わせてご覧ください。 2016年のディープラーニング論文100選[リンク] ディープラーニングにとっての2017年 2017年のディープラーニング技術は主に画像系技術で革新的な進歩がありました。それをけん引したのは敵対
光の偏光について説明します。これは高校生に取って解りにくいものですが、光が横波であることと深く関係しています。 1.光(電磁波)の電場ベクトル (1)電場ベクトルの方向 光の性質を決めるのが電場ベクトルである。一方向に進する光(電磁波)とは別稿「電磁波の伝播」2.(2)や「線型振動子(電気双極子)による電磁波の放出」2.(3)で説明したように進行方向に対して直角な方向を向く電場ベクトルEの変化が波となって進んでいくようなものです。 そのとき電場ベクトルに対して磁場ベクトルが存在しその方向は進行方向に垂直な面内で電場ベクトルに対して進行方向を回転軸として右90度の方向を向いている。また、別稿で説明したように電場ベクトルと磁場ベクトルの大きさの比率は常に決まった値を取る。それこそ、電磁気学におけるマクスウェル方程式が示唆する電磁場の性質についての一つの表れです。 磁場ベクトルは電場ベクトルに対
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く