PFN製の最適化ツール「Optuna」で富士山を登頂する - sw1227’s diary
1. 背景 2. 方法 2.1. 標高タイル 2.2. Optuna 3. 結果 3.1. 実行例 3.2. 登山経路 4. まとめ 1. 背景 Optunaとは、Preferred Networks（以下PFN）の秋葉氏らが開発したハイパーパラメータ自動最適化ツールです。 ハイパーパラメータ自動最適化ツール「Optuna」公開 | Preferred Research これは勾配法の適用できない（しない）ハイパーパラメータをベイズ最適化アルゴリズムの一種を使って自動で最適化してくれるものですが、Chainerと密結合しているわけではありません。何らかのObjective functionを与えることで簡単に最適化を行ってくれるようになっています*1。 ★★★ Objective...? 登山にとってそれは標高だ、と多くの人は考えるのではないでしょうか？ 標高が唯一の目的ではないにせよ、世
エッジAIを加速する深層学習：PFNが「Menoh」発表、MSは「Brainwave」をエッジへ (1/3)
マイクロソフトとPreferred Networks（PFN）は2018年6月21日、深層学習（ディープラーニング）のイベント「DLLAB DAY 2018」を開催した。同イベントは、深層学習の産業応用を推進する目的で2社が設立した国内コミュニティ「Deep Learning Lab（DLLAB）」の1周年を記念する催しであり、金融、医療、流通・小売りなどの業界における深層学習の活用事例が多数紹介された。 基調講演には、日本マイクロソフト 執行役員 最高技術責任者（CTO）の榊原彰氏、PFNの創業者で代表取締役社長 最高経営責任者（CEO）の西川徹氏、理化学研究所 計算科学研究センターセンター長の松岡聡氏が登壇したほか、カーネギーメロン大学の金出武雄教授がSkypeでコメントを寄せている。 3つの好条件が重なりAIが進化した 基調講演にリモート登壇したカーネギーメロン大学の金出教授は、昨今
【機械学習】ディープラーニング フレームワークChainerを試しながら解説してみる。 - Qiita
今話題のDeep Learning(深層学習)フレームワーク、Chainerに手書き文字の判別を行うサンプルコードがあります。こちらを使って内容を少し解説する記事を書いてみたいと思います。 (本記事のコードの全文をGitHubにアップしました。[PC推奨]) とにかく、インストールがすごく簡単かつ、Pythonが書ければすぐに使うことができておすすめです！ Pythonに閉じてコードが書けるのもすごくいいですよね。 こんな感じのニューラルネットワークモデルを試してみる、という記事です。 主要な情報はこちらにあります。 Chainerのメインサイト ChainerのGitHubリポジトリ Chainerのチュートリアルとリファレンス 1. インストール まずは何はともあれインストールです。ChainerのGitHubに記載の"Requirements" ( https://github.co
chainerのバージョンごとの違い(2016年1月19日現在) - studylog/北の雲
あと数日で1.6がやってくるchainer。 1.0~1.6までのバージョンごとの差について簡単にまとめてみます。 大きく分けると3つのグループ 1.0 1.1 1.2 黎明期バージョン 1.3 1.4 CuPy導入 1.5 1.6 色々とパワーアップした現世代 特にこれからchainer始める人はこのグループ分けを覚えておいた方がいいです。グループが違うと中身がかなり違うので他の人が書いたサンプルを参考にしたりフォーラムで質問する時は注意が必要です。 同じグループ同士のアップグレードはそこそこ楽ですが、1.2→1.3や、1.4→1.5はそれなりに大変。 バージョンの見分け方 良さげなサンプルコードを見つけて使ってみたいけど対応しているバージョンがわからない、という方向けに簡単な見分け方を。 1.5、1.6 chainer.links chainer.Chain serializers.s
深層学習で自動作曲（Stacked LSTM編） [DW 6日目] - Qiita
0. ざっくりいうと Stacked LSTMをChainerで書いた それを使って自動作曲してみた こうなった → 再生 （注意！すぐに音声が流れます） 1. LSTMとは 以下を参照。 Understanding LSTM Networks LSTMネットワークの概要 わかるLSTM ～ 最近の動向と共に Recurrent Neural Networks 【深層学習】再帰ニューラルネットワークに関する良ページまとめ [DW 5日目] 2. Stacked LSTMとは LSTMを多層に重ねたニューラルネット。多層にすることによって、各レイヤーで長い相関と短い相関を学習できると期待されている。 ちなみに、LSMTを縦横方向につなげて多次元化したGrid LSTMというネットワークもある。Wikipediaの文字予測タスクや中国語翻訳タスクで良い性能を出しているらしい。 - Grid L
![深層学習で自動作曲（Stacked LSTM編） [DW 6日目] - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/d79d899d8852b8ee38cf8ff920825cbe655b8e2d/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9JUU2JUI3JUIxJUU1JUIxJUE0JUU1JUFEJUE2JUU3JUJGJTkyJUUzJTgxJUE3JUU4JTg3JUFBJUU1JThCJTk1JUU0JUJEJTlDJUU2JTlCJUIyJUVGJUJDJTg4U3RhY2tlZCUyMExTVE0lRTclQjclQTglRUYlQkMlODklMjAlNUJEVyUyMDYlRTYlOTclQTUlRTclOUIlQUUlNUQmdHh0LWFsaWduPWxlZnQlMkN0b3AmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZzPTM1NjkzNDUwOTNlYWU0YjFiY2E3MTg4Nzk5OWJkZTY1%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBrb21ha29tYWtvJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1jMTc5NTI5MmRmNGQ3YzY3ZmY2M2ZlN2Q4ZmRmMWIxMQ%26blend-x%3D142%26blend-y%3D486%26blend-mode%3Dnormal%26s%3D697c729f092792205b7c96732436b859)
Chainer で Stacked Auto-Encoder を試してみた - 技ラボ
Deep Learningフレームワークの一つであるChainerを用いてStacked Auto-Encoderの処理を実装し、MNIST (手書き文字認識) のデータの分類を試してみました。 なお、本記事はNeural Network (以降NN)、Deep Learning についての基本的な知識、ChainerやPythonについての基本的な知識があることを前提としています。 (2016/03/18 追記・修正) FunctionSet で書いていたソースコードをChainer 1.5 で追加された仕組み「Chain・Link」で書きなおしてみました。以下、通常版として公開しています。 合わせて、全体的に「Chain・Link」使った内容に修正しています。 本記事で作成したソースコードはGithub上に公開しています。 (通常版) https://github.com/ISP-Ka
Chainerでファインチューニングするときの個人的ベストプラクティス - Qiita
メリークリスマス！！！！ @tabe2314です。 この記事では、明日から使えるChainerテクニックとして、既存モデルをファインチューンして新しいモデルをつくる際の個人的なベストプラクティスを紹介します。 ニューラルネットを学習するために、別の問題、別のデータセットで学習済みのモデルのパラメータをコピーして、それを新しいニューラルネットのパラメータの初期値として使うことをファインチューニングといいます。 典型的なケースとして、一般物体認識のデータセットであるImageNetで学習したネットワークを物体検出やSemantic Segmentationといった別の問題に使用するといった例があります。 一般的にDeep Learningでは大量の学習データが必要とされていますが、あらかじめ（大量のデータで）学習したモデルを初期値として使いファインチューニングすることで、実際に解きたい問題に関
RNNによる学習で文豪っぽいテキストを出力させる (aka DeepDazai)
Chainerでなにを学習させよう？ 前回のエントリで、CUDAの使えるAWS上のchainerでバリバリ学習できるようになった。けど、何を学習させよう？ロボットで使うのはおいおいやるとして、DNNのノウハウみたいなのを勉強するのによい題材がなんかないかな〜。 やはりRNNが面白いなあと思う。画像認識(CNN)とかもいいんだけど、時系列データを扱えるRNNはロボットにも応用が効きそうだ。PFNさんのロボットデモもすごく面白いと思うし。 で、このブログ記事をたまたま知って、コンテンツ自動生成がいいのではと。 Andrej Karpathy blog : The Unreasonable Effectiveness of Recurrent Neural Networks この記事では、RNNでシェイクスピアの著作データからシェイクスピアっぽい文章を自動生成したり、LaTeXの論文データからそ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
深層学習フレームワークChainerの紹介とFPGAへの期待
GitHub - yusuketomoto/chainer-char-rnn: karpathy's char-rnn (https://github.com/karpathy/char-rnn) implementation by Chainer
長文日記