サルでもわかるディープラーニング入門 (2017年) (In Japanese)
サルでもわかるディープラーニング入門 (2017年) 人工知能に関しては何もわからないレベルから始めて 最後まで偏微分方程式とかさっぱりわからない、という状態で ディープラーニングの解説をしてみました ※初出 20170121 ※3分でわかるディープラーニング、を加筆(20170122) ※なぜディープラーニングが有効になったか、を加筆、TensorFlow playgroundをみて「クリックできればできる」は言い過ぎなのでその部分を訂正(20170123) ※ニューラルネットぽい概念図を加筆(20170124) ※「勝利の方程式』スライド加筆 (20170125) ※「問題解決の3段階」加筆 (20170126) ※「学習モデルをだます例」加筆 (20170301) A1701talk deep-learning-introduction-170301(20170301)
ディープラーニングにおける学習のコツとハイパーパラメータのガイドライン
はじめに 今流行りのディープラーニング(深層学習)ですが、いざ自分でやってみると思ったように精度が出なかったり、重みの初期化や学習率をどのように選択したらよいのか、といったことで戸惑うことがよくあります。 重みの初期化や学習率といった、ニューラルネットではなく人間が選択しなければいけないパラメータをハイパーパラメータ(Hyperparameter)と呼びます。逆に言えば、ハイパーパラメータとは学習アルゴリズムによって決定できず、ヒューリスティックな部分でもあります。 ハイパーパラメータは試行錯誤で決定していくのが基本ですが(もちろん自動化技術もあります)、50年以上の歴史があるニューラルネットには知恵やテクニックが多くの先人によって培われてきました。そして、今もなお研究が盛んに行われている分野でもあります。 あとで参照しやすいように本記事では、ハイパーパラメータの指南をまとめてみました。
Toolbox : Bias in Distribution
Bias in Distribution 分布の偏りを示す指標を以下に示す。 構成比 特定の領域における地域分布を表現する最も単純な方法が、地域別の統計量である。しかし、異なる２領域や、同一領域の異なる２時点の分布を比較する際に、領域全体の統計量の規模が異なっていることが通常であり、単純な比較はできないことになる。そこで領域全体の統計量で個々の部分領域の統計量を除した割合（部分地域別構成比）を求めれば比較が可能となる。 集中指数 上記の構成比による比較は容易ではあるが、その値の差が空間的な規模（面積の大きさ）の差によるものであるのか、その他の理由によるものであるのかは判然としない。もし分布が均一であれば、構成比は面積（比）に比例するはずである。不均一の度合いが高まり、特定の領域に集中的に分布しているのであれば、構成比と面積比の間の乖離は大きくなるはずである。このことに着目して定義されたのが
ブラウザ上で使えるJavaScript製テキストエディタAce入門 - Qiita
Aceとは ブラウザ上で使えるJavaScript製のテキストエディタです。貧弱なテキストエリアの代替として使うと便利です。特徴として、 100言語以上のシンタックスハイライト Sublime風、Chrome DevTools風など、自由に選べる多数のテーマ マルチカーソル リアルタイム構文チェック などなど、スタンドアロンのエディタと比べても決して引けをとらない高機能なエディタです。 公式サイト 詳しい使い方を知りたいならばAPI Referenceから。 サンプルサイト 各種パラメータの効果を見た目で確認することが出来ます。 インストール 今回のサンプルでは全てCDNを使用しますので何もインストールする必要はありません。 ダウンロードして使いたい場合は https://github.com/ajaxorg/ace-builds/ ←こちらから。 最小のサンプル <!DOCTYPE ht
ベイズ推論：いつも何度でも尋ねられること
このページをご覧頂き、ありがとうございます。 「ベイズと最尤のどちらが正しいのか」と、いつも何度でも尋ねられます。 「事前分布は何が正しいのか」と、いつも何度でも尋ねられます。 ここでは、できるだけ短く、その質問についての返答を述べます。 １．正しい統計的推論は存在しない 統計学が扱う問題では、ほとんどの場合、基礎となる確率がわからないので、 特別な場合を除いて、正しいモデル・正しい事前分布・正しい推論というものは存在しません。 条件が不足したり過剰だったりして答えられない問題のことを【不良設定問題】と いいます。 統計学は不良設定問題を扱う学問です。 この世にあるほとんどの問題は程度の違いこそあれ、みな不良設定です。 まずは「統計学は不良設定問題を扱う学問である」ということを理解しましょう。 基礎となる確率が定められていなければ【正しい統計的推論】は存在しません。 （注） 基礎となる確率
PRML2.1 2.2
Bernoulli distribution and multinomial distribution (ベルヌーイ分布と多項分布)
いろいろな確率分布のパラメータをいじくるアプリ @ksmzn #Shiny
いろいろな確率分布のカタチを見ることができるWebアプリです。 パラメータをいじくって、確率分布のカタチがどのように変わるのか観察しましょう。 上部メニュー からお好きな確率分布を選んでください。 このアプリはR言語のWebアプリフレームワークであるShiny で、@ksmznが作りました。 ご指摘や、追加すべき確率分布などがありましたらTwitterで教えてくださると助かります。 また、全てのコードはGitHubにもおいてありますので、拙いコードでよろしければ参考にしてください。 時間があれば、グラフをggplot2ではなく、D3.jsなどを使ったインタラクティブなものにしたいですね。 参考文献 このアプリを使う際に参考にしたページは以下です。 特に、まだまだShinyの日本語情報が少ないなか、 @hoxo_mさんの記事やコードはとても参考になりました。 @hoxo_mさん、ありがとうご
ベイジアンになろう
ベイジアンになろう 電子情報工学科 伊庭 斉志 確率の復習 条件付き確率 Ａが起こったという条件でＢが起きるという 事象を であらわす その確率 を条件ＡのもとでのＢの 起きる条件付き確率といい、 で定義する A B | ) | ( A B P ) ( ) ( ) | ( A P B A P A B P ∩ = 確率の復習 周辺確率 Ａが起こったとときに同時にB1,B2,…Bmの いずれかが起きるとする。ただし B1,B2,…Bm は同時には起こらない。 このとき、Aがおこる確率は以下のように表 わされる。 ∑ ∑ = = = = m i i i m i i B P B A P B A P A P 1 1 ) ( ) | ( ) , ( ) ( 確率の復習 乗法定理 から が得られる ) ( ) ( ) | ( A P B A P A B P ∩ = ) ( ) ( ) | ( B P B
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
回転行列⇔角度の変換 - Qiita
http://nlp.dse.ibaraki.ac.jp/~shinnou/zemi2006/mva/suzuki1.pdf