Chainerで画像の一部をメモリにキャッシュして高速化を図るDatasetを作った - Qiita
はじめに モデルを訓練する際に，MNIST程度の画像サイズと枚数のデータセットであれば最初にすべてメモリに読み込むことができるので高速にイテレーションを回すことができます。 しかし，自前のそれなりに大きいサイズと枚数の画像データセットでモデルを訓練しようとすると，データがすべてメモリに乗り切らなくなってしまうことがよくあります。 ChainerのImageDataset Chainerには自前の画像データセットを扱うためにImageDataset, LabeledImageDatasetなどのクラスが用意されています。 これらのクラスは画像のパスやラベルだけを保持しており，画像データ自体はイテレータなどからget_example()が呼び出されるたびにその都度読み込まれます。 そのため，メモリに乗り切らないような大規模なデータセットも扱うことができますが，画像を参照するたびに読み込みのオー
ChainerRLでブロック崩しを学習する - Qiita
CSGAdventCalendar最終日です。 ChainerRLを使ってブロック崩しの学習をさせるチュートリアルをやりました。 実装はGoogleColaboratoryを使いました。 ChainerRLとは Chainerを使って実装していた深層強化学習アルゴリズムを”ChainerRL”というライブラリとしてまとめて公開したもの。 以下のような最近の深層強化学習アルゴリズムを共通のインタフェースで使えるよう実装している。 Deep Q-Network (Mnih et al., 2015) Double DQN (Hasselt et al., 2016) Normalized Advantage Function (Gu et al., 2016) (Persistent) Advantage Learning (Bellemare et al., 2016) Deep Deter
Raspberry Piとディープラーニングで画像認識やろうとしたら重かったのでサーバーに計算させた - Qiita
はじめに Raspberry Pi上でImageNetの学習済みモデルを使い，カメラから入力した画像を認識しようとしましたが，モデルが大きすぎてメモリに乗りませんでした。 そこで，以下のようにラズパイからサーバーに画像を送信して認識結果を返すような仕組みを実装しました。 方法 ソケット通信でサーバーとやり取りします。 コードはGitHubのリポジトリにもアップロードしてあります。 サーバー側 画像認識の部分はChainerで行っています。 モデルはVGGを利用しました。 # coding: utf-8 import socket, threading import chainer import chainer.links as L import numpy as np class ImageNetPredictor: def __init__(self): self.model = L.V
kaggleのHome Credit Default Riskに挑戦した1週間 - Qiita
1日目 Kaggleにサインアップ〜Competitionに登録 https://www.kaggle.com/ Googleアカウントなどがあれば簡単にアカウントは作成できます。Competitionに参加するまでは以下の記事が参考になったので掲載させていただきます。 Kaggle事始め https://qiita.com/taka4sato/items/802c494fdebeaa7f43b7 ↓ログイン後のトップページ ↓コンペティション一覧ページ コンペを選んで「Join Competition」をクリックし、規約に同意すると参加完了です。 参加した「Home Credit Default Risk Competition」は、2018/8/29 11:59 PM (UTC)が最終締め切りでした。 https://www.kaggle.com/c/home-credit-defau
Docker版のRefineDetで物体検出してみる - Qiita
RefineDetとは Single-Shot Refinement Neural Network for Object Detection ⇒ RefineDet (Shifeng Zhang, Longyin Wen, Xiao Bian, Zhen Lei, Stan Z. Li：2017/11/18) ソースはこちらから。 物体検出アルゴリズムのひとつで、SSDよりやや速度は劣るが、認識精度が高い。 Two-Step Cascaded Regressionという仕組みで、 より小さな物体に対しての認識が可能なようです。 ※以下の記事で日本語でも解説されているので、是非ご一読ください。 リアルタイム物体検出向けニューラルネット、SSD(Single Shot Multi Detector)及びその派生モデルの解説 その他のアルゴリズムと比べるとこんな感じ。 System VOC200
Chainer とAnnoyを使った 類似画像検索 【入門】 - Qiita
はじめに 今回は以前の書いた記事(類似画像検索のための、Pythonを使った近似最近傍探索【入門】)の続きで、Deep Learningの特徴量抽出と近似最近傍探索を使って類似画像検索を実装します。 類似画像検索とは特徴ベクトル $\boldsymbol{x}$で表現された画像に近い画像をデータベースの中から探すことです。データベースのすべての画像と類似度を比較していると膨大な計算量になり時間がかかるので、効率よく似ている画像を探しだすことが求められます。 類似画像検索はSNSのPinterestのズームイン検索という機能に使われています。以下の例でいうと、左の画像で囲ったキーボードの画像を使って、類似画像を検索し表示しています。リモコンのようなものを検索されていますが、色や形状などが似ている画像を表示することができます。 Deep Learningを使って類似画像検索を実装する方法は基本
Connectionist Temporal Classification (CTC) を用いた音素認識 - Qiita
はじめに ほとんどの音声データベースには時間情報がなく、発話内容しか与えられていません。これは、音素の時間情報を同定する作業が非常に高コストだからです。このため、ニューラルネットを用いた音声認識は、これまでは学習時にHMM(隠れマルコフモデル)を用いた従来の音声認識を援用し、はじめに各音素の区間を音声認識によって推定する必要がありました。 これに対し、近年ニューラルネットだけで音声認識を可能とする枠組がいくつか提案されています。CTC (Connectionist Temporal Classification) は、そのようなアルゴリズムの1つです。 CTCの学習では、通常の交差エントロピー損失ではなく、縮約すると正解音素列と一致するような全ての音素列の確率の和をネットワークの出力の「望ましさ」と考え、その対数にマイナスを付けた関数を損失関数とします。例えば、縮約すると /h a i/
温度付きsoftmax 覚書 - Qiita
温度付きsoftmax (softmax with temperature) いつ使うか モデルの蒸留なんかに出てくる損失関数 (多分他にも出てくるんだろうけどあまり知らない)． 「ちょっと高い確率で出てきたクラスを重視して学習したい！」とか「低い確率のクラスを切り捨てずに学習したい！」ときに使われる． 数式 $$ S(y_i)=\frac{e^{\frac{y_i}{T}}}{\Sigma{e^{\frac{y_k}{T}}}} $$ 実装(Chainer) import chainer import numpy as np def softmax_with_temperature(x, temperature: float) -> chainer.Variable: return F.softmax(x / temperature) softmax_with_temperature(n
Tomasi-Kanade法による3次元復元 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? こんにちは，いしたーです．最近はDeNAで3次元復元関連のアルバイトをしています． 今回は3次元復元の古典的な手法であるTomasi-Kanade法[1]の解説をしていきます． コードはGitHubにあります． Tomasi-Kanade法とは 2次元の画像の集合から3次元の物体を復元する手法です． さっそくデモをお見せします． これらはある3次元の点の集合を撮影(平面に投影)したものです． これらの画像をTomasi-Kanade法で処理すると，こんなふうにもとの3次元の点群を2次元の点群のみから復元することができます． 実際に実行し
[chainer] F.hstackメモ - Qiita
import chainer import chainer.functions as F import numpy as np hoge = np.array([i for i in range(9)]).reshape(3,3) """ array([[0, 1, 2], [3, 4, 5], [6, 7, 8]]) (3, 3) """ hogehoge = np.array([i*i for i in range(9)]).reshape(3,3) """ array([[ 0, 1, 4], [ 9, 16, 25], [36, 49, 64]]) (3, 3) """ hogehogehoge = F.hstack((hoge, hogehoge)) """ variable([[ 0 1 2 0 1 4] [ 3 4 5 9 16 25] [ 6 7 8 36 49 64]])
![[chainer] F.hstackメモ - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/c7155641efee42ee18d48f58fe5f0f86dfb6e028/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fqiita-user-contents.imgix.net%252Fhttps%25253A%25252F%25252Fcdn.qiita.com%25252Fassets%25252Fpublic%25252Farticle-ogp-background-afbab5eb44e0b055cce1258705637a91.png%253Fixlib%253Drb-4.0.0%2526w%253D1200%2526blend64%253DaHR0cHM6Ly9xaWl0YS11c2VyLXByb2ZpbGUtaW1hZ2VzLmltZ2l4Lm5ldC9odHRwcyUzQSUyRiUyRnFpaXRhLWltYWdlLXN0b3JlLnMzLmFwLW5vcnRoZWFzdC0xLmFtYXpvbmF3cy5jb20lMkYwJTJGMjIyNzQ4JTJGcHJvZmlsZS1pbWFnZXMlMkYxNjA4MjQ3OTE3P2l4bGliPXJiLTQuMC4wJmFyPTElM0ExJmZpdD1jcm9wJm1hc2s9ZWxsaXBzZSZmbT1wbmczMiZzPWIzYTU3NmY5OTFkZjc3MWYxMWUyZmM3OTcyYWQ2N2E3%2526blend-x%253D120%2526blend-y%253D467%2526blend-w%253D82%2526blend-h%253D82%2526blend-mode%253Dnormal%2526s%253D411c6ee67067d31a446063ba0d14b94c%3Fixlib%3Drb-4.0.0%26w%3D1200%26fm%3Djpg%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk2MCZoPTMyNCZ0eHQ9JTVCY2hhaW5lciU1RCUyMEYuaHN0YWNrJUUzJTgzJUExJUUzJTgzJUEyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnR4dC1jb2xvcj0lMjMxRTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LXBhZD0wJnM9MzcxMDk4MTMwNTEwOGUzMDYzZjViZDMxODBkYjljYWI%26mark-x%3D120%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTgzOCZoPTU4JnR4dD0lNDBudC1zdXBpa2l0aSZ0eHQtY29sb3I9JTIzMUUyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1wYWQ9MCZzPWNlMjlmNGM0ZGI5ZTg0NzU4ZDk5ZmU0Njc2NTNhYzNm%26blend-x%3D242%26blend-y%3D480%26blend-w%3D838%26blend-h%3D46%26blend-fit%3Dcrop%26blend-crop%3Dleft%252Cbottom%26blend-mode%3Dnormal%26s%3Df15311098d8197407430ee7c4b8bbe65)
gaussian_kl_divergenceメモ - Qiita
chainer.functions.loss.vae.gaussian_kl_divergenceの使い方メモ 引数に多変量正規分布の平均ベクトルと対数共分散行列をとり, 出力結果として 引数のパラメータをもつ多変量正規分布と多変量標準正規分布とのKL-divergenceの値を 返してくれる. VAEのコードを書く際に, 潜在分布と標準正規分布のKL-divergenceを最小化する 条件を書くと思うのでこいつを用いるとサラッとかけたりする. 下記の通り, 引数として用いる分散は対数を取ったものであることに注意. from chainer.functions.loss.vae import gaussian_kl_divergence mu = np.array([0.0, 0.0]) ln_var = np.array([[0.0, 0.0], [0.0, 0.0]]) gaussia
Azure Batch AI - AzureでGPU/マルチノードでディープラーニング計算を簡単に行う！（Chainer MN編） - Qiita
本稿では、Azure Batch AIを利用して、Chainer MNのMNISTのコードをGPUノードを複数並べて実行してみたいと思います。 Batch AIとは？ Batch AIとは、マイクロソフト社のパブリッククラウドであるAzureの1製品で、GPUの載ったノードを並べたクラスターをオンデマンドで簡単に作成しDockerを利用してディープラーニングの学習をすぐに実行できる環境を提供する仕組みです。 ＊製品イメージ図 ポイント ・Nvidia社のGPU（Tesla V100, P100, P40, K80）を載せたサーバーを大量に並べたクラスターを、1行のコマンドで作成できます。 ・マルチノード時に必要なノード間の通信もAzureが自動設定。低レイテンシーなRDMAネットワークを提供するInfinibandも利用可能です。 ・価格が8割引きになる低優先度仮想マシンを利用して、通常利
Azure Batch AI - Chainer MNをInfiniband / GPU付きノードで高速並列実行する！ - Qiita
Azure Batch AI - AzureでGPU/マルチノードでディープラーニング計算を簡単に行う！（Chainer MN編） https://qiita.com/YoshiakiOi/items/2f143e62bcf5d7daa8e9 に続いて、Batch AIを使っていきます。 今回はChainer MNのジョブを、AzureのInfiniband付き（もちろんGPUも！）ノードで並列実行していきます！ Batch AIとは？ 前項参照。 https://qiita.com/YoshiakiOi/items/2f143e62bcf5d7daa8e9 ディープラーニングの学習を、オンデマンドでたくさんGPU付きノードを並べたクラスターを作成して、簡単に並列実行できるようにする、Microsoft Azureの1製品。 今回はInfinibandを利用して、より高速に実行できる環境を
DeepLearningの学習経過をslackで受け取れるようにする - Qiita
モチベーション DeepLearningの学習って結構時間がかかりますよね? (数時間とか、ヘタしたら数日とか・・・) 手元のPCで学習が回っていて常に状況を確認できるならともかく、リモートのPCで学習は回っていたり、大体時間がかかるからってどっかに出掛けてみたりするじゃないですか。 でも学習が進んでいるかどうかは定期的に知りたい。もっと言えば、エラーで途中終了しているのはすぐにでも知りたい（学習終わってるかな？って思って見てみたら止まってた・・・(泣)みたいなのは避けたい）。 そこで、Slackのpython-slackclientを使って学習結果をslackのchannelに定期的に通知する方法を紹介します。 前半は単純にpython-slackclientの簡単な使い方、後半はchainerのExtensionとしてこのSlack通知機能を実装する方法を説明します。 こんな感じを目指
Anaconda NavigatorでTensorFlowやChainerをインストール - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 前提と結論 会社で久しぶりに機械学習（というかディープラーニング）をやることになったので、勉強用に自宅の低スペックノートPCに開発環境を構築した時のメモ。 ネットで調べるとcuDNNのセットアップの方法とか色々書いてありますけど、普通のPCで動かすだけなら、Anaconda Navigator からGUIだけでインストールできました。 （CPU版でちょっと勉強したい人向け。本格的にやりたい人のGPU版も入りそうですけど、試せないので正しく動くかどうかはわかりません） 試した環境 Windows10 64bit (CPU: Intel C
機械学習でサザエさんとじゃんけん勝負（ニューラルネットワーク編） - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 先日、「サザエさんじゃんけん研究所」1様の「サザエさんじゃんけん白書」が話題になりました。 日曜夕方の代表的なアニメ「サザエさん」の次回予告で行われる「じゃんけん」を記録し、傾向と対策をまとめているという恐ろしい資料です。 1991年11月の開始から現在に至るまで、26年以上のじゃんけんの手が毎週分（執筆時点で1348回！）全て記録されているというから驚きです。2 さらに「サザエさんじゃんけん研究所」様では、傾向と対策を基にサザエさんと毎週じゃんけん勝負をしていて、1996年1月～2018年8月第2週の22年以上で通算勝率70
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://chainer.org/annoucement/2016/11/10/new-release-cycle.html
Chainer v4 PILからNumpy NumpyからPILの変換 - Qiita
学習率の調整、予め足すか？後から足すか？ - Qiita
MNISTをChainerで深層学習 NN/CNN/RNN - Qiita
