Why does deep and cheap learning work so well? - AIエンジニアの探求
Deep Learningの理論的な側面にアプローチした論文*1。タイトル通り、なぜDeep Learningがうまくいくのか？を考えている。ただし個々のネットワークの構造やdropoutなどの学習テクニック、種々の勾配法のアルゴリズムには言及せず、もっと基礎的な部分をフォーカスしている。 ここで議論されている中心的な問いは なぜ少数のパラメータしか持たないニューラルネットワークでデータを表す関数を表現できるのか？ なぜ層を深くすることが有効なのか？ の２つ。 1つめについて、ここでは過学習や収束する時間は考えず、ネットワークが次の関数を近似できればOKとしている。 ここでは分類問題を想定していて、 がデータ、そしてがそのラベルを表している。十分な数のノードを持つニューラルネットワークは任意の関数を任意の精度で近似できる*2という定理があるので最初これは自明かと思ったけど、どうもそうではな
紙に描かれた曲線の長さを測ることが可能な「シュタインハウス・ロングメーター」とは？
普通の定規では測ることが難しい、紙に書かれた曲線の長さを測ることができる仕組みが「シュタインハウス・ロングメーター」です。そんな「シュタインハウス・ロングメーター」について解説したムービーがYouTubeに公開されています。 Steinhaus Longimeter Review / HowTo いくつもの線が交差して不思議な模様を描いているこの紙が、シュタインハウス・ロングメーターです。 シュタインハウス・ロングメーターは、平面に描かれた曲線の長さを測定するために発明されました。 使い方は簡単。測りたい曲線の上に、透かしの入った紙に印刷されたシュタインハウス・ロングメーターを重ねて…… シュタインハウス・ロングメーターの直線と曲線が交差した数をカウントするだけ。曲線と直線が交差した数により、ミリ単位で曲線の長さを測ることができます。 シュタインハウス・ロングメーターを発明したのは、20世
仕事も「家事」に含めるべき
最近「見えない家事」って話題になったじゃん 作業としてはしっかりあるのに 家事として認識してもらえない家事 例えばゴミ出しにおける「新しいゴミ袋をゴミ箱に設置する作業」とかそういうやつね この「見えない家事」の最もたるって「仕事」なんじゃないかと思うんだよ 夫婦間での家事負担が平等だと感じるときって （実際にポイントつけてる人は少ないだろうけど） 「家事ポイント」的なものの量が夫婦で同じになったときだと思うんだよね 例えば 妻が夕飯の用意（ポイント10）したら 夫が洗濯（ポイント3）皿洗い（ポイント3）子供の寝かしつけ（ポイント4）したら 平等 みたいな そこで聞きたいんだけど 仕事から帰ってきた夫の「家事ポイント」は何ポイントになってる？ もしかして0ポイントになってない？ 仕事から帰ってきた夫を「今日はまだ何も家庭に貢献してない」とか思ってない？ 仕事も立派な家庭のための「家事」だと思
歌詞ってそんなに気にする？
邦楽であれ洋楽であれ、初めて聴く曲の歌詞の全てを聴き取れるか？ 俺は邦楽でさえ聴いてないことのほうが多い。 邦楽も洋楽も、聴いて気に入ったら改めて歌詞を調べて目で見る。 その後にようやく歌詞を理解しながら聴くことができる。 よく英語読わからないのに洋楽聴くのをバカにするのを見るが、そもそも邦楽でさえ歌詞をいつも気にしてる奴がそんなにいると思えない。 第一に演奏や歌声で、歌詞は二の次なのが普通だと思ってるんだけど、実際どうなの？
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Why does deep and cheap learning work so well? を読んだ