ディープラーニング(Deep Learning)の歴史を振り返る - 渋谷駅前で働くデータサイエンティストのブログ
先日Quora日本語版でこんな回答を書いたのですが、ついでなので少し文脈情報を付け足してブログの方に再録することにしました。理由は単純で、このブログでディープラーニングの歴史についてまとめた記事を今まで書いてきたことがなく、そしてブログ記事にした方がより認識違いや調査不足などについての指摘をもらいやすいと思われたからです。ということで、以下の説明に関してツッコミがあれば是非コメント欄などにお寄せくださいm(_ _)m (A Neural Network Playground) ディープラーニングを語る上で、その前史であるパーセプトロン、そして（人工）ニューラルネットワークの話題は欠かせません。以下大まかに説明していきましょう。（※歴史解説中では敬称略、各種用語は原則カナ表記*1） パーセプトロンの登場 ミンスキーによる批判と第1の冬の時代 誤差逆伝播学習則と中間層を用いたニューラルネットワ
脳は誤差逆伝播しているか？
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
高次元ベクトルデータ検索技術「NGT」の性能と使い方の紹介
この結果を見て単語ベクトルが変わるとNGTの性能が変わってしまうように感じた方がいるかもしれません。しかし、実はこれらの単語ベクトルはデータの次元数や件数が違っているため、それぞれの条件をあわせてみる必要があります。興味がある方は論文を読んで見比べて欲しいと思いますが、ここで重要なことは、NGTが高い精度にも関わらず、せいぜい100ミリ秒程度で検索できるという規模感であるということです。その規模感を感じてもらうために、これらの実験結果をご紹介しました。この実験以外にも論文の中では単語ベクトルの応用としてアナロジーと呼ばれる合成ベクトルでの実験やその他の比較手法の比較、実験結果の考察などもありますが今回は割愛します。 これまで紹介した内容と同じような実験はLinux系のサーバーであれば公開しているExperimental softwareという実験プログラムを使うと簡単に試すことができます。
Neural networks and deep learning (ニューラルネットワークと深層学習)
ニューラルネットワークと深層学習 What this book is about On the exercises and problems ニューラルネットワークを用いた手書き文字認識 逆伝播の仕組み ニューラルネットワークの学習の改善 ニューラルネットワークが任意の関数を表現できることの視覚的証明 ニューラルネットワークを訓練するのはなぜ難しいのか 深層学習 Appendix: 知性のある シンプルな アルゴリズムはあるか? Acknowledgements Frequently Asked Questions Sponsors Resources 「ニューラルネットワークと深層学習」は無料のオンライン書籍です。 この本では、次のような内容を扱います。 ニューラルネットワーク：コンピュータに、観測データにもとづいて学習する能力を与える、生物学にヒントを得たプログラミングパラダイム。 深
Google、ディープラーニングをサポートした機械学習ライブラリ「TensorFlow」をオープンソースで公開
Googleは、脳の活動を模したニューラルネットワークによって学習を実現する「ディープラーニング」をサポートした機械学習ライブラリ「TensorFlow」をオープンソースで公開しました。ライセンスはApache 2.0オープンソースラインセンスです。 Googleはすでに数年前からディープラーニングを同社のサービスに組み込んでいます。「私たちが社内でディープラーニングの基盤である「DistBelief」を開発したのは2011年のことだ」（ブログ「TensorFlow - Google’s latest machine learning system, open sourced for everyone」から）。 TensorFlowは、このDistBeliefをさらに強化したものだと説明されています。 TensorFlow is general, flexible, portable, e
DeepLearningライブラリのChainerがすごい、らしい - cvl-robot's diary
Preferred Infrastructure(以下PFI)からスピンオフした会社、Preferred NetworksのリリースしたDeepLearningライブラリのChainerがすごい、と話題になっています。*1 解説 Deep Learning のフレームワーク Chainer を公開しました | Preferred Research 公式 Chainer: A flexible framework of neural networks GitHub pfnet/chainer · GitHub ドキュメント Chainer – A flexible framework of neural networks — Chainer 1.1.0 documentation おそらく初露出 ディープラーニング最近の発展とビジネス応用への課題 公式ツイッター chainer (@Chai
「Amazon Machine Learning」発表。クラウドで機械学習サービスを提供
Amazonクラウドはクラウド上で機械学習を提供するサービス「Amazon Machine Learning」を発表しました。 これはAmazon社内でデータサイエンティスト達が使っているのと同じものと説明されており、既存のデータ群から適切な機械学習モデルを作りだし（データからパターンを学習し）、そのモデルを新しいデータに適用して予測などを行っていくというもの。 高いスケーラビリティで日々何十億もの予測を行う能力を備え、リアルタイムに予測を生成できるとされています。 簡単に学習させられ、大規模処理も可能 Amazon Machine Learningのページでは、特長として5つの要素が示されています。 1つ目は、既存データをAmazon S3やRedshift、Amazon RDSなどから簡単に読み込んで学習させることができること。2つ目は、数秒でモデルを作成し、予測までできること。 3つ
Azure Machine LearningとIoTを駆使して室温予測システムを構築してみた - がりらぼ
はじめに 今回は自宅の室温予測システムを構築してみました。 前回はいろいろテキトーに書いてたので今回はかなりまじめに書いていきます。 イメージとしてはNHKのNextWorldで描かれてる世界 それをできるだけAzureを駆使して構築してみたいと思います。 システム構成図 システムの構成図はこんな感じ Arduinoで室温を計測 ↓ Azure Mobile Servicesに送信 ↓ SQL Azureデータベースに貯めこむ ↓ そのデータを使ってAzure MLであらかじめデータの傾向を学習しておく ↓ Mobile Service Schedulerで毎朝8時にAzure MLからその日の室温の予測値を取得してTweet ↓ Mobile Service Custom APIを使ってWindowsストアアプリに今日の室温予測値を表示 という感じでいきたいと思います。 データ計測部 I
ニューラルネットの逆襲 - Preferred Networks Research & Development
岡野原です。Deep Learningが各分野のコンペティションで優勝し話題になっています。Deep Learningは7、8段と深いニューラルネットを使う学習手法です。すでに、画像認識、音声認識、最も最近では化合物の活性予測で優勝したり、既存データ・セットでの最高精度を達成しています。以下に幾つか例をあげます。 画像認識 LSVRC 2012 [html] 優勝チームスライド [pdf], まとめスライド[pdf] Googleによる巨大なNeuralNetを利用した画像認識（猫認識として有名）[paper][slide][日本語解説] また、各分野のトップカンファレンスでDeep Learningのチュートリアルが行われ、サーベイ論文もいくつか出ました。おそらく来年以降こうした話が増えてくることが考えられます。 ICML 2012 [pdf] ACL 2012 [pdf] CVPR
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
システム・エンジニアの基礎知識