タグ

2019年5月1日のブックマーク (5件)

  • tensorflow で rnn を動かしてみる - uhiaha888’s diary

    tensorflow の rnn のチュートリアルはちょっと複雑で何をやってるのかパッとはわからないので、簡単なやつを作って動かしてみたい そもそもRNNとは? 出力をまた入力に使うらしい。よくこんな図を見るけど具体的に何が起きているのか? 深層学習による自然言語処理 というだと、 ということなので、1層で入力も出力も2個のときは、下図っぽい感じになるはず。 任意の長さの入力 (今回は入力素子が2個なので長さ4なら [ [3,2], [4,4], [1,0], [9,9] ] みたいな感じ) について、 最後の入力(上の例では [9,9])が渡されたときの出力(にsoftmaxとかかけたもの)で誤差関数の値を計算して、それを最小化するようにWを調整していくことで学習していく。 (必要なら各入力に対する出力を保存しておいてそれらで誤差関数を計算してもいいみたい) 入力の素子数が1つで活性化

    tensorflow で rnn を動かしてみる - uhiaha888’s diary
  • tensorflow.jsでfizzbuzz - Qiita

    function fizzbuzz(n) { if (n % 15 == 0) { return [1, 0, 0, 0]; } else if (n % 5 == 0) { return [0, 1, 0, 0]; } else if (n % 3 == 0) { return [0, 0, 1, 0]; } else { return [0, 0, 0, 1]; } } function toarray(n) { var ary = new Array; for (var i = -1 ; i < 7; i++) { var s = 1; if (i > -1) s = 2 << i; var b = n & (s) if (b > 0) { ary.push(1.0); } else { ary.push(0.0); } } return ary; }; function tofiz

    tensorflow.jsでfizzbuzz - Qiita
  • 活性化関数のまとめ(ステップ、シグモイド、ReLU、ソフトマックス、恒等関数) - Qiita

    [参考]ゼロから作るDeep Learning 活性化関数とは 活性化関数は、入力信号の総和がどのように活性化するかを決定する役割を持ちます。これは、次の層に渡す値を整えるような役割をします。 一般的に、 「単純パーセプトロン」の活性化関数では、「ステップ関数」などが使われ、 「多層パーセプトロン(ニューラルネットワーク)」の活性化関数では、「シグモイド関数、ソフトマックス関数」や恒等関数が使われます。 また、これら「ステップ関数、シグモイド関数、ソフトマックス関数」を非線形関数と呼ぶのに対し、「y=cx」のような関数を線形関数と呼びます。 一般的に、ニューラルネットワークでは線形関数は使われません。この理由は、「なぜ多層パーセプトロンで線形関数を使わないのか?」で説明します。 一般的に、ソフトマックス関数と恒等関数は出力層で使われます。 ステップ関数 ステップ関数は、閾値を境にして出力が

    活性化関数のまとめ(ステップ、シグモイド、ReLU、ソフトマックス、恒等関数) - Qiita
  • Node v9 で ES Module import を使ってみる - Qiita

    どうやら最近の JavaScript はモジュール分割が可能になってきているようだ。 つまり別ファイルに定義したオブジェクトを import や export というキーワードで参照できるようだぞ、すげえ! というので、フハフハしながら趣味のコードを import/export 使いながら書いていた。 のだが。 世の中はまだ require によるモジュール参照 Node で紹介されているコードの断片をみても require 使ったものしかないじゃない1? たとえばこんなの。 const { spawn } = require('child_process'); const ls = spawn('ls', ['-lh', '/usr']); ls.stdout.on('data', (data) => { console.log(`stdout: ${data}`); }); ls.st

    Node v9 で ES Module import を使ってみる - Qiita
  • JavaScript エンジニア向け: 知識ゼロから tensorflow.js で機械学習入門 - mizchi's blog

    この週末で機械学習を勉強した結果として、JavaScript エンジニア向けにまとめてみる。 自分が数式見て何もわからん…となったので、できるだけ動いてるコードで説明する。動いてるコードみてから数式見たら、多少気持ちがわかる感じになった。 最初に断っておくが、特にJSを使いたい理由がないなら python で keras 使ったほうがいいと思う。tensorflow.js が生きる部分もあるが、学習段階ではそこまで関係ないため。 追記: 最初 0 < a < 1.0 0 < b < 1.0 で三角関数 Math.sin をとっていて、これだと三角関数の一部の値しか使っておらず、線形に近似できそうな値を吐いていたので、次のように変更して、データも更新した。 // 修正前 const fn = (a, b) => { const n = Math.cos(a) * b + Math.sin(b

    JavaScript エンジニア向け: 知識ゼロから tensorflow.js で機械学習入門 - mizchi's blog