はてなブックマーク

この記事はなに TensorFlow のちょっとした Tips です。 モデルに学習済みパラメータをロードするときのことについて書きます。 空いていた(?)ので、Diverse Advent Calendar 2018に12/7の記事としてお邪魔しました。ゆかりのある人ならOKらしい。 昨日、12/6は @imaizume さんによる アプリのロジックからisIPhoneXフラグを消すためにやったこと でした。以前一緒に働いていた身として大変申し訳無い気持ちになりつつ、とても分かりやすく起こった問題を解説されていてためになりました。 明日、12/8は @python_spameggs さんによる記事です。最後にお会いしたのが結構前なので元気そうな記事だと嬉しいです(私信)。 本題です。 TensorFlow で学習したモデルのグラフを tf.train.import_meta_graph

Deep Learning の、特に画像分類系のタスクでよく使用される、 Test Time Augmentation (TTA) という Augmentation の手法を友人 (@hattan0523) に聞いたので、実際変わるものかと思ってカジュアルに試してみました。 なんかコンペとかでは必須らしい。 ※ 間違いなどご指摘歓迎です。 Test Time Augmentation (TTA) とは 機械学習、特に Deep Learning では、大きなモデルを学習させるためにたくさんの訓練データが必要になります。 データが増えるほど精度が上がったり、複雑なモデルも学習できるようになることが知られています。 そこで、訓練用データを少し加工し別のデータとしてデータセットに加えることで、学習に使えるデータの量を増やす試みがよく行われており、 Data Augmentation と呼ばれます

https://deeplearningbook.org を読んでいて、6章で Universal Approximation Theorem (普遍性定理) なるものが出てきた。 今まで知らなかったのと、すごいなと思ったので理解したことをメモしておきます。 理解が甘いところもあると思うのでご指摘歓迎です。 Universal Approximation Theorem とは 何にすごいと思ったのか 何ができるようになるか & 研究動向 Universal Approximation Theorem とは 英語Wikipediaより In the mathematical theory of artificial neural networks, the universal approximation theorem states that a feed-forward network w

皆さん、Jupyter notebook は使ってますか? 今回は Jupytext という Jupyter notebook を管理しやすくなるツールを見つけたので使ってみました。 控えめに言ってめっちゃ便利なのでは！という感じだったので、しばらく使ってみようと思いつつ、簡単に紹介記事を書きました。 まだ使い始めなので、間違ってるよ！とかこうするともっと便利！などなど、ご指摘歓迎です Jupytext とは Jupyter notebook をより便利にするツールです。 Jupyter notebook は既に広く使われているツールですが、状態を保持したままトライアンドエラーがしやすく便利な反面、下記のように課題もあります。 Jupyter notebook 自体は便利だけど、コードを書くときはIDEなど別の使い慣れたエディタを使いたい .ipynb のファイルの中身は json で差分

はじめに 前回、こういう記事をかきました Deep LearningにおけるDropoutの理解メモと、実際にどう効いているのか見てみる 引き続き https://deeplearningbook.org を読んでおり、上記記事でも少し紹介したBatch Normalizationが8章で出てきました。 Dropoutの節では、「Batch Normalizationが超強いからDropoutいらないこともあるよ」とまで言われるレベルのパワーとのこと。一体どんなものなのか 本記事では自身の学習のアウトプットとして、簡単な理解のまとめと、TensorFlowでの実装の説明、cifar10のデータセットにBatch Normalizationあり/なしのCNNで分類を行ったので、その結果を載せています。 Batch Normalizationの理解 TensorFlowでの実装 cifar10

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

こんばんわ。mixiグループ Advent Calendar 2015 14日目の記事です！ 実は Diverse Advent Calendar 2015 にもちゃっかり登録させてもらっています。 重複登録は出来ないようでしたm(_ _)m よろしくお願いします。 背景 突然ですが、みなさんホワイトボードは使っていますか？ ミクシィグループでは、開発手法にスクラムを取り入れている部署もあり、多くでホワイトボード+ポストイットがタスク管理の一端を担っています。 IT時代のIT企業でも部分的とはいえタスク管理にアナログな方法が使われているのは喜べないことかもしれませんが、デジタルとアナログ、それぞれの良い所を上手く使うことが大切ですね。 さて、私もそんなIT企業に勤める人間なので、当然自宅にもホワイトボードがあります(↓自宅のホワイトボードの図)。 (汚かったので頑張って掃除しました) それ