カオスニューラルネットワーク
トップページ→研究分野と周辺→ニューラルネットワーク→ カオス的性質の特徴として、決定的な法則に従う（サイコロを振るような偶然性が無い）が、長期予測が困難（事実上不可能）で、特に初期値によって先々の結果が大幅に変わる（初期値鋭敏性）、等が挙げられる。 ロジスティック写像がよく例として説明に使われる。数値の変化は簡単な式で与えられ、決定的である。しかし、パラメータによっては、一見ランダムに見える複雑な変化を示す。 松本、合原らは、ヤリイカの巨大軸索に対する実験（1980年代）で、このカオス的性質が、実際の神経細胞（ニューロン）内にも存在する事を明らかにした。 他細胞からの入力の総和とシグモイド関数に基づく、単純なニューラルネットワークの基本構造だけでは、この性質は出て来ない。 もっと生物の細胞に近い、複数の条件をニューロンモデルに組み入れたところ、カオス的な振る舞いを示すようになった。これを
Nature ハイライト：ニューラルネットワークとコンピュータープログラムからなるハイブリッド人工知能 | Nature | Nature Portfolio
学習アルゴリズム：ニューラルネットワークとコンピュータープログラムからなるハイブリッド人工知能 2016年10月27日 Nature 538, 7626 従来のコンピューターアルゴリズムは、インターネット上のワールドワイドウェブ（WWW）やソーシャルネットワークのような、極めて大きく非常に複雑なデータ構造を論理的に処理することができるが、こうした作業のためには人間によるマニュアルでのプログラミングが必要である。一方、ニューラルネットワークはいろいろな例から学習して複雑なパターンを認識できるが、複雑なデータ構造を解析して構築することは難しい。今回A Graves、G Wayneたちはディファレンシャブル・ニューラル・コンピューター（DNC）と名付けられたハイブリッド学習機械を開発した。DNCは、従来のコンピューターが持つランダムアクセスメモリー（RAM）に似た外部メモリー構造への読み書きがで
大脳皮質と deep learning の類似点と相違点
脳とdeep learning のアーキテクチャには共通の特徴が多くありますが、 脳にはあるのに現在(2012年時点)の deep learning にはない重要な特徴もあります。 その中には deep learning の性能をさらに向上させる 有望なヒントが含まれているのではないかと思います。 そこで、大脳皮質と deep learning の類似点と相違点を簡単にまとめてみました。 特に「脳は上の層ほど発火がスパース」「脳はあまり深くなくむしろ横に広い」 「脳では領野ごとに強い個性がある」といった特徴は、 重要なのではないかと思います。 ◆ 大脳皮質に見られる「深いネットワーク」 大脳皮質の視覚野（腹側経路と背側経路）、聴覚野、体性感覚野、運動野には 「深いネットワーク」の構造が見られる。 これらの領域における主な領野の階層構造を [Felleman and Essen 1991]
脳とコンピュータとの違い
脳と現状のコンピュータは、計算モデル、アーキテクチャ、 アルゴリズムなどいろいろな観点からみて違いがあります。 はたしてコンピュータの上で脳と同じ機能は実現できるのでしょうか。 実現を難しくする要因として何が考えられるでしょうか。 ◆計算モデルの違い 計算する機械を数学的に抽象化したものを計算モデルと呼びます。 チューリングマシンは計算モデルの１つです。 チューリングマシンとは数学的に異なる計算モデルとしては、 例えば非決定性チューリングマシン、 （理想的な）アナログコンピュータ、量子チューリングマシン （量子コンピュータのモデル）があります。 これらはチューリングマシンよりも強力だったり速かったりします。 さて、「脳の計算モデル」はチューリングマシンと等価でしょうか、 それともより強力だったり速かったりするのでしょうか。 非決定性チューリングマシンは並列度が無限の計算機です。 脳は超並列
Deep learning 用語集
deep learning とは、従来よりも多くの層を持ったニューラルネットを用いる 機械学習技術です。 deep learning は、画像認識、音声認識などの分野で、 いろいろなベンチマークで従来技術を超える性能を出しており、 注目を集めています。 私自身も勉強不足ですが 僭越ながら、 deep learning 関連用語について自分の理解で簡単にまとめました。 （挙げてある原論文もちゃんと読んでません！ 間違いがあればぜひご指摘ください。） Deep Learning auto-encoder または RBM などを積み重ねた深い構造を持つ機械学習器。 従来は研究者が手作りしていた特徴抽出器を、 代わりに大量のデータから学習させ自己組織化させるアプローチとも言える。 deep learning を特徴抽出器として使い、 識別器としては最上位層でＳＶＭなどを使うこともある。 deep
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
