共役勾配法によるニューラルネットのパラメータ推定 - 人工知能に関する断創録
Courseraの機械学習ネタの続き。前回は、ロジスティック回帰のパラメータ推定（2014/4/15）に共役勾配法（Conjugate Gradient: CG法）を使いました。今回はより複雑なニューラルネット（多層パーセプトロン）のパラメータ推定に共役勾配法を適用してみました。 以前、多層パーセプトロンで手書き数字認識の実験をしたとき（2014/2/1）は、共役勾配法ではなく、勾配降下法（Gradient Descent）を用いてパラメータの更新式を自分で書いていました。 self.weight1 -= learning_rate * np.dot(delta1.T, x) self.weight2 -= learning_rate * np.dot(delta2.T, z) 勾配降下法は、学習率（learning rate）を適切な値に設定しないと収束が遅い、発散するなど欠点があります
Deep Learning技術の今
第2回全脳アーキテクチャ勉強会での講演スライドです。Deep Learning の基礎から最近提案されている面白トピックを詰め込んだサーベイになっています。
カフェインに記憶力をアップさせる効果があることが判明
By Ahmed Rabea 試験前にコーヒーを飲みながら勉強に励んだという経験を持つ人も多いと思いますが、このコーヒーを飲むという行為は学習効果を高めるのに理にかなった方法のようです。アメリカの研究者は、コーヒーに含まれるカフェインに記憶を強化する効果があることを明らかにしています。 Post-study caffeine administration enhances memory consolidation in humans : Nature Neuroscience : Nature Publishing Group http://www.nature.com/neuro/journal/vaop/ncurrent/full/nn.3623.html Should you drink coffee before or after a learning task? | The Cu
自然言語処理分野における ディープラーニングの現状
⾃ࠞ然⾔ࢠ語処理ྞ分野における ディープラーニングの現状 渡邉 ̀陽太郎ྒ 東北ྖ⼤֒学⼤֒学院情報科学研究科 IBIS2013 企画セッション2：ディープラーニング 2013/11/12 NLPにおけるディープラーニング 2 ⾔ࢠ語モデル の構築 ⾔ࢠ語の構成性 のモデル化 構成的意味論ྔ ⾔ࢠ語解析 （構造予測） Recursive Neural Networks Autoencoders (Socher et al., 2011, 2012, 2013) RBM (Minh and Hinton 2007) Feed-forward Deep NN (Bengio et al., 2003, Arisoy et al., 2012) Recurrent NN (Mikolov et al., 2010) (Wang and Manning 2013) (Mansur et al.,
JavaScript Garden
JavaScript Garden はJavaScriptというプログラム言語の一番奇妙な部分についてのドキュメント集です。 このドキュメントはJavaScriptという言語に慣れていないプログラマーがこの言語について深く知ろうとする際に遭遇する、良くある間違い・小さなバグ・パフォーマンスの問題・悪い習慣などを避ける為のアドバイスを与えます。 JavaScript GardenはJavaScriptを教える事を目的にしていません。このガイドの項目を理解する為には、この言語に対する前提知識がある事を推奨します。この言語の基礎部分についてはMozilla Developer Networkのガイド がオススメです。 著者 このガイドは愛すべきStack Overflowの2人のユーザーIvo Wetzel (執筆)とZhang Yi Jiang (デザイン)によって作られました。 貢献者 貢献
Webデータ分析＆データサイエンスで役立つ統計学・機械学習系の分析手法10選 - 銀座で働くデータサイエンティストのブログ
追記 2016年3月に以下の記事によってこの内容はupdateされています。今後はそちらをお読み下さい。 主に自分向けのまとめという意味合いが強いんですが（笑）、僕が実際に2013年6月現在webデータ分析＆データサイエンスの実務でツール・ライブラリ・パッケージを利用しているものに限って、統計学・機械学習系の分析手法を10個挙げて紹介してみようと思います。 追記 回帰分析（特に線形重回帰分析） 独立性の検定（カイ二乗検定・フィッシャーの正確確率検定） 主成分分析(PCA) / 因子分析 クラスタリング 決定木 / 回帰木 サポートベクターマシン(SVM) ロジスティック回帰 ランダムフォレスト アソシエーション分析（バスケット分析・相関ルール抽出） 計量時系列分析 おわりに おまけ1：「素性ベクトル＋分類ラベル」なるデータ前処理 おまけ2：グラフ理論*10 {igraph}パッケージでグラ
一般向けのDeep Learning
PFI 全体セミナーで発表した、専門家向けではなく一般向けのDeep Learning（深層学習）の解説です。どのような場面で活躍しているのか、今までの学習手法と何が違うのかを解説しています。Read less
技術と英語を同時に、しかも無料で勉強できる画期的な方法
.app 1 .dev 1 #11WeeksOfAndroid 13 #11WeeksOfAndroid Android TV 1 #Android11 3 #DevFest16 1 #DevFest17 1 #DevFest18 1 #DevFest19 1 #DevFest20 1 #DevFest21 1 #DevFest22 1 #DevFest23 1 #hack4jp 3 11 weeks of Android 2 A MESSAGE FROM OUR CEO 1 A/B Testing 1 A4A 4 Accelerator 6 Accessibility 1 accuracy 1 Actions on Google 16 Activation Atlas 1 address validation API 1 Addy Osmani 1 ADK 2 AdMob 32 Ads
Python machine learning codes in a textbook: 手習い録
Machine Learning: An Algorithmic Perspective という学部生向けの教科書が 昨年4月に出版され, その説明に使われている Python のコードが公開されています. 教科書そのものはオンラインでは参照できないようです. 上のページで説明されている, ダウンロード可能なコードは次の通りです. それぞれを個別にダウンロード出来るだけでなく, すべてをまとめた zip ファイルも 同じページに公開されています. 2章 (線形判別): パーセプトロン 線形回帰 別のパーセプトロン (logic.py を利用) 論理関数を使ったパーセプトロンの実演 論理関数を使った線形回帰の実演 Pima Indian データセットを使った実演 auto-mpg データセットを使った線形回帰の実演 numbers データセット, 追加の numbers データセット, nu
第50回 練習の効果 | WIRED VISION
第50回 練習の効果 2010年12月14日 サイエンス・テクノロジーハッキング コメント： トラックバック (0) フィードサイエンス・テクノロジーハッキング （これまでの増井俊之の「界面潮流」はこちら） 何かの練習を始めるとき、最初のうちは上達が実感できるものの、続けるうちに上達の速度が落ちたりスランプに悩んだりすることは誰もが経験することだと思います。 ワインバーグの名著「ライト、ついてますか」などの翻訳者としても有名な東京工業大学名誉教授の木村泉氏は、練習量と上達の関係を定量的に評価したいと考え、大量の折り紙を自分で折るのに要する時間を計ることによってその関係について考察しました。 木村氏は、吉澤章氏の「創作折り紙」という本で紹介されている「みそさざい」という作品を15万回折り続け、折るのにかかった時間がどのように変化したかを記録しました。折るのに要した時間を縦軸に/試行回数を横軸
【勉強法】楽しく、ラクに、シンプルに! 英語ハックス（佐々木 正悟, 堀 E. 正岳）| スゴレン｜もてる方法-彼女の作り方-恋愛相談-恋愛の裏ワザ
【勉強法】楽しく、ラクに、シンプルに! 英語ハックス（佐々木 正悟, 堀 E. 正岳） アメリカの新聞をいきなり読むのはハードルが高そうです。それは、背景となる知識が不足しているからです。 この書籍はタイトル通り、英語学習に関する書籍なのですが、実際には英語の学習だけではなく、「学習」そのもの効率化や仕事の取り組みについて活かせる事柄もたくさん含まれております。今回は、内容の一部を紹介させて頂きたいと思います。 【１】たとえ1分でも勉強したら、記録を残すようにします。（p026） 記録として残すことで、達成感を高め、勉強に対するモチベーションを上げることができるそうです。英語学習以外の勉強やダイエット、筋肉トレーニングなど自発的な取り組み全般に応用できる手法だと感じました。 【２】アメリカの新聞をいきなり読むのはハードルが高そうです。それは、背景となる知識が不足しているからです。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Amazon.co.jp: Pattern Recognition And Machine Learning (Information Science and Statistics) Christopher Bishop
Page has moved
Kaggle Blog – Medium