ニューラルネットのための最適化数学 - HELLO CYBERNETICS
はじめに 最適化数学 最適化問題の簡単な例 例題の解法 微分による解法の注意点 凸最適化問題 凸関数 凸関数の定義 ニューラルネットの学習 ニューラルネットの目的関数 ニューラルネットの勾配降下法 パラメータを求める戦略 勾配降下法 ニューラルネットの損失関数 目的関数の凸性 最適化における課題 記事 はじめに 機械学習での学習とは、パラメータを逐次最適化することです。 最適化数学自体は、それだけで1つの広大な研究範囲を持っていますが、今回は機械学習で用いられる逐次最適化が分かるように、最適化数学の基本を記したいと思います。 機械学習には非常に多くの手法がありますが、逐次最適化という面においてはほとんど共通の形を持っています。各手法毎に最初から理解のし直しが必要というわけではなく、最適化数学の基本を抑えておけば、新しい手法を学ぶときにもやっていることを理解することが可能になります。 最適化
ディープラーニング対応の機械学習ライブラリ「TensorFlow」、分散コンピューティングでスケールアウト可能に。ニューラルネットワークの内容を可視化するツールも公開
ディープラーニング対応の機械学習ライブラリ「TensorFlow」、分散コンピューティングでスケールアウト可能に。ニューラルネットワークの内容を可視化するツールも公開 Googleはディープラーニングに対応した機械学習ライブラリの最新バージョン「TensorFlow 0.8」を公開しました。 これまでTensorFlowは1台のマシンでしか実行できませんでしたが、新バージョンからは分散コンピューティングをサポートし、何百台ものコンピュータを使って並列実行することで学習処理を高速化できるようになりました。 このTensorFlow 0.8を用いて、Inceptionモデルに対応した機会学習を分散コンピューティングで実現するのが「Distributed TensorFlow」です。 分散コンピューティングを用いて100台のGPUを投入することで、学習の速度が56倍向上したとのこと。 また、Te
TensorFlowのTutrialの解説と機械学習の実験をした。 - のんびりしているエンジニアの日記
今日は様々な箇所で賑わっているTensorFlowを使ってみました。 皆さんこんにちは。 お元気でしょうか。朝弱いと結構困りますよね。 TensorFlowが盛り上がってたのでつい書いてみました。 TensorFlowとは http://tensorflow.org/ http://download.tensorflow.org/paper/whitepaper2015.pdf （詳細にライブラリのことを知りたい人はこちらのpdfへどうぞ） TensorFlowはGoogleが開発したデータフローグラフを使用した数値計算ライブラリです。 グラフの各ノードは数値計算のオペレータを示し、エッジはデータの配列を示す。 desktopやserverなどでのCPU,GPU演算をシンプルなAPIで実現することが可能です。 開発者は、GoogleのBrain Teamの研究者、エンジニアです。目的は、機
TensorFlow 畳み込みニューラルネットワークで手書き認識率99.2%の分類器を構築 - Qiita
TensorFlowとは2015/11/9にオープンソース化されたGoogleの機械学習ライブラリです。この記事ではディープラーニングと言われる多層構造のニューラルネットワークをTensorFlowを利用して構築しています。 TensorFlowはPythonから操作できますがバックエンドではC++で高速に計算しています。macのPython2.7系環境でTensorFlowの上級者用チュートリアルを行い、手書き認識率99.2%の多層構造の畳み込みニューラルネットワークモデルの分類器を構築したときの作業メモです。特別な設定なしにCPU使用率270%メモリ600MByteとちゃんと並列計算してくれました。MNISTランキングを見ると認識率99.2%は上位のモデルとなるようです。 TensorFlowチュートリアル TensorFlowの初心者用と上級者用チュートリアル2つに取り組んでみました
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
