タグ

2018年1月23日のブックマーク (4件)

  • Chainer公式ドキュメントのReccurentNetsの項を和訳してみました - Qiita

    Chainer TutorialのRecurrent Nets and their Computational Graph の(http://docs.chainer.org/en/stable/tutorial/recurrentnet.html) を和訳してみました。バージョンは、2016/05/05現在のstable版です(v1.8.1?)。 間違い等ありましたら、ご指摘いただけると幸いです。 リカレントネットとその計算グラフ このセクションでは以下のことを学ぶ フルバックプロパゲーションを使用したリカレントネット 切り捨てバックプロパゲーションを使用したリカレントネット 少ないメモリでのネットワークの評価 この章を読むと、以下のことができるようになる 可変長のインプットシーケンスを扱う フォワード計算中に、ネットワークの上層を切り捨てる ネットワーク構築をさせないように揮発性変数を

    Chainer公式ドキュメントのReccurentNetsの項を和訳してみました - Qiita
    sonots
    sonots 2018/01/23
  • これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub

    これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] この投稿は Machine Learning Advent Calendar 2013 の9日目の記事です. 日は,Neural Network(NN)を利用したLanguage Model(LM),つまりNeural Network Language Model(NNLM)の一種であり, Recurrent Neural Network(RNN)を使ったRecurrent Neural Network Language Model(RNNLM)について説明します. RNNLMに行く前置きとしてざっくりいくつか用意したので,知ってそうな人は先へ進んでください. 前置きを入れているうちに長くなりすぎた.... しかも,そもそもNNの説明

    これもある意味Deep Learning,Recurrent Neural Network Language Modelの話 [MLAC2013_9日目] — KiyuHub
    sonots
    sonots 2018/01/23
  • RNNで言語モデルを作る – 理論編 | 合理と非合理のあいだ

    この記事では、近年注目を集めるニューラルネットワークの拡張型RNNを用いて、ある文が与えられたらその次に来る単語の確率を与える言語モデルを作る過程を紹介する。この記事は、言語モデルに関わらずRNNの一般的な構造を取り扱うので、言語モデル以外にも応用することができる。(間違いなどがあればコメントでお知らせください) 言語モデルとは 言語モデルとは、ある文章が(学習元となったデータにおいて)生起する確率を与えるモデルで、例えば、以下の様な関係を知ることができる。 P(the cat slept peacefully) > P(slept the peacefully cat) 言語モデルがあることで、どの文章がより起こりやすいか=どの文章がより自然か を知ることができるので、機械翻訳や音声認識など応用範囲は様々だ。 これは一般には と表せる。つまり、言語モデルは ある単語の列が与えられた時の次

    RNNで言語モデルを作る – 理論編 | 合理と非合理のあいだ
    sonots
    sonots 2018/01/23
  • What is the size of an auto_ptr?

    sonots
    sonots 2018/01/23
    raw pointer: 8 auto-ptr: 8 unique-ptr: 8 shared-ptr: 16 boost scoped-ptr: 8 boost shared-ptr: 16