AWS スポットインスタンスでの TensorFlow 学習の自動化 - Qiita
mizti さんの AWS Step FunctionsとLambdaでディープラーニングの訓練を全自動化する を自分の求めるものに従って微修正したものです。 背景 AWS の高性能 GPU マシン、 p2 インスタンスで DeepLearning (TensorFlow) の学習を回したい でも p2 は高い！！ スポットインスタンスを使うと安い！ しかしスポットインスタンスは実行中に入札額によって強制シャットダウンされる 学習中データを定期的に S3 にアップロードしたい スポットインスタンスを立ち上げて学習開始するのを自動化したい 学習完了時に勝手にインスタンスをシャットダウンしたい 仕様 学習開始の Slack 通知 データ格納先の S3 のチェック bucket は存在するか？ 既に学習結果格納ディレクトリが無いか？（上書きしないようチェック） スポットインスタンスへの入札と、結
Apple の機械学習ライブラリ Turi Create を試す - Qiita
この記事はDeNA IPプラットフォーム事業部 Advent Calendar 2017のエントリです（２回目）。 こんにちは。@kenmazです（２回目）。 DeNAでマンガボックスというiOSアプリを開発しています（２回目）。 マンガボックスは最近４周年を迎えました。めでたいですねー（２回目）。 Turi Create とは ここから本題です。 先日、AppleがTuri Createというライブラリを公開しました。 https://github.com/apple/turicreate 調べてみると2016年にAppleが買収したシアトルのTuriという企業が開発していたソフトウェアがベースになっているようです。 今思い出してみると、WWDC2017のCoreMLセッションにも「turi」出てきているんですよね。 https://developer.apple.com/videos/
How to implement an RNN (1/2) - Minimal example
This tutorial on implementing recurrent neural networks (RNNs) from scratch with Python and NumPy will build on the previous tutorial on how to implement a feedforward neural network . Please check out this previous tutorial if you are unfamiliar with neural network basics such as backpropagation. This first part will illustrate how to implement a minimal RNN . The RNN is simple enough to visualiz
TensorFlowのRNNを基本的なモデルで試す - Qiita
TensorFlowにもRNN(Reccurent Neural Network) が実装されており，Tutorialもあるものの，例題自体が言語モデルを扱った少し複雑なもので，初学者にはとっつきにくいなと感じました． 今回は言語モデルでない，より単純なモデルを扱う問題を例に挙げ，TensorFlowでのRNN実装を試します． 注意 TensorFlowのバージョンがあがり，動かなくなっている部分があるので，こちら(TensorFlow RNN関連のimportやBasicLSTMCellでエラーが出た場合の対処(v 0.11r~)) もみてみてください． 環境 OSX python 2.7.11 TensorFlow r0.8 SimpleなRNN SimpleなRNNのモデルや，その実装方法としてはPeter's noteというブログが大変参考になるので，初めての場合はそちらをまず読ん
ソシャゲやめたい|お坊さんが答えるQ&Aサイトhasunoha
私は艦これをやめました。制作者が「クリエイターの仕事は、いかにプレイヤーに進めたくても進められない、そういうストレスと苦痛を与えるかだと思うんです」と公言しているだけあって、禿げるから。坊主頭が禿げ上がるほど禿げるから。「これは楽しくて止められないんじゃない、ギャンブル的に止めることができなくて止められない状態だな。」そう悟って止めました。私はあのゲーム性に疲れました。心の健康に繋がらないゲームが良いゲームであるわけがない。（良い思い出もありますし、楽しかった、やって良かったと思っている複雑な自分がいるのも事実です） 本当に良いゲームって、どんなに悔しくても、どんなに上手くいかなくても、どこか爽やかな風が吹いているんですよ。 L4D2で見ず知らずの仲間３人とゾンビの追撃から逃げる。 もう４時間も同じマップをクリアできないでいる…回復アイテムも彼が持っている１個しか残っていない…え？それを俺
アイドルマスター sideMの監督（プロデューサー）を辞めた話
長文です。気持ちの整理をしたくて書きます。 見苦しい部分が多くあると思います。 思い付きでダラダラと書いてるので、文章がおかしいところがあってもご了承ください。 私は2017年の初夏頃、Mマスのプロデューサーを辞めました。担当はW、蒼井悠介と蒼井享介という双子のユニットでした。どっちも大好きだったけど、特に悠介のほう。 この二人は元サッカー選手で、プロデューサーのことを監督と呼びます。 私が監督になったのは、Mマスのモバゲーアプリが配信してすぐのこと、一番最初のイベント「アイドルデビューオーディション」からです。 かの有名な？「桜庭乱入！」のやつです。私も最初は桜庭薫目当てだった。 右も左もわからないままポチポチして、なるほどこういう脳死ゲーね、と思いながら進めて行く中で、蒼井兄弟と出会います。 よくわからないけどめちゃめちゃかわいい。デビュー衣装全然かわいくないし地下アイドルが着せられて
Reading privileged memory with a side-channel
We have discovered that CPU data cache timing can be abused to efficiently leak information out of mis-speculated execution, leading to (at worst) arbitrary virtual memory read vulnerabilities across local security boundaries in various contexts. Variants of this issue are known to affect many modern processors, including certain processors by Intel, AMD and ARM. For a few Intel and AMD CPU models
DRAGANでいらすとや画像を生成してみる - 緑茶思考ブログ
DRAGAN arXiv:https://arxiv.org/abs/1705.07215 “How to train your DRAGAN"というタイトルの論文で、 変なタイトルだなぁ..と思っていたが、 このタイトルの元ネタとして、アメリカの3DCGアニメがあるのを知った。 （日本名はヒックとドラゴンというらしい。この名前も初耳） www.youtube.com このDRAGANを使って以下のようないらすとや画像を生成したというのが本記事の主旨。 この生成画像は非常に綺麗。 この記事自体はお蔵入り予定だったが， 本日リリースされたchainerのGANライブラリの中に， 決して有名でないDRAGANが入っていて驚き， この記事を公開する意味もなくはないか，と気持ちを改め， これを機に成仏させることにした． この論文の概要 GANでは目的関数がnon-convexなので局所的なナッシュ
勾配降下法の最適化アルゴリズムを概観する | POSTD
(編注：2020/10/01、2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次： さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最適化するアルゴリズム Momentum(慣性) Nesterovの加速勾配降下法 Adagrad Adadelta RMSprop Adam アルゴリズムの可視化 どのオプティマイザを選ぶべき？ SGDの並列化と分散化 Hogwild! Downpour SGD SGDのための遅延耐性アルゴリズム TensorFlow Elastic Averaging SGD 最適化されたSGDに対する更なる戦略 シャッフル学習とカリキュラム学習 バッチ正規化 早期終了 勾配ノイズ 結論 参考文献 勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネット
はじめてのGAN
今回はGAN（Generative Adversarial Network）を解説していきます。 GANは“Deep Learning”という本の著者でもあるIan Goodfellowが考案したモデルです。NIPS 2016でもGANのチュートリアルが行われるなど非常に注目を集めている分野で、次々に論文が出てきています。 また、QuoraのセッションでYann LeCunが、この10年の機械学習で最も面白いアイディアと述べていたりもします。 “The most interesting idea in the last 10 years in ML, in my opinion.” –Yann LeCun GANは聞いたことはあるけれどあまり追えてないという人向けに基礎から解説していきたいと思います。それでは順に見ていきましょう。 目次 基礎理論 DCGAN 実装 論文紹介 まとめ 基礎理
TFGANでFashion MNISTのGANをさくっと試す - Qiita
これはTensorFlow Advent Calendar 2017の22日目の記事です。 12/12にGoogleからTFGANがリリースされた。TFGANはTensorFlowでGenerative Adversarial Networks (GAN)を手軽に使えるライブラリ。さっそく触ってみたので、お手軽に試す手順を紹介したい。おそらく30〜60分ほどでこんなふうにFashion MNISTの画像が徐々に生成されていく様子が確認できるはず。 TFGANで生成したFashion MNIST画像 GANって何？ GANについては、アイドル顔画像生成やいらすとや画像生成などの事例で目にしたことのある人も多いはず。いわゆる生成モデルに分類される技法で、既存のデータを投入して学習すると、そのデータの特徴を捉えた新しいデータの生成を行える。2014年にIan Goodfellow他が考案したモデ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
