kaggleのHome Credit Default Riskに挑戦した1週間 - Qiita
1日目 Kaggleにサインアップ〜Competitionに登録 https://www.kaggle.com/ Googleアカウントなどがあれば簡単にアカウントは作成できます。Competitionに参加するまでは以下の記事が参考になったので掲載させていただきます。 Kaggle事始め https://qiita.com/taka4sato/items/802c494fdebeaa7f43b7 ↓ログイン後のトップページ ↓コンペティション一覧ページ コンペを選んで「Join Competition」をクリックし、規約に同意すると参加完了です。 参加した「Home Credit Default Risk Competition」は、2018/8/29 11:59 PM (UTC)が最終締め切りでした。 https://www.kaggle.com/c/home-credit-defau
Docker版のRefineDetで物体検出してみる - Qiita
RefineDetとは Single-Shot Refinement Neural Network for Object Detection ⇒ RefineDet (Shifeng Zhang, Longyin Wen, Xiao Bian, Zhen Lei, Stan Z. Li：2017/11/18) ソースはこちらから。 物体検出アルゴリズムのひとつで、SSDよりやや速度は劣るが、認識精度が高い。 Two-Step Cascaded Regressionという仕組みで、 より小さな物体に対しての認識が可能なようです。 ※以下の記事で日本語でも解説されているので、是非ご一読ください。 リアルタイム物体検出向けニューラルネット、SSD(Single Shot Multi Detector)及びその派生モデルの解説 その他のアルゴリズムと比べるとこんな感じ。 System VOC200
Chainer とAnnoyを使った 類似画像検索 【入門】 - Qiita
はじめに 今回は以前の書いた記事(類似画像検索のための、Pythonを使った近似最近傍探索【入門】)の続きで、Deep Learningの特徴量抽出と近似最近傍探索を使って類似画像検索を実装します。 類似画像検索とは特徴ベクトル $\boldsymbol{x}$で表現された画像に近い画像をデータベースの中から探すことです。データベースのすべての画像と類似度を比較していると膨大な計算量になり時間がかかるので、効率よく似ている画像を探しだすことが求められます。 類似画像検索はSNSのPinterestのズームイン検索という機能に使われています。以下の例でいうと、左の画像で囲ったキーボードの画像を使って、類似画像を検索し表示しています。リモコンのようなものを検索されていますが、色や形状などが似ている画像を表示することができます。 Deep Learningを使って類似画像検索を実装する方法は基本
Connectionist Temporal Classification (CTC) を用いた音素認識 - Qiita
はじめに ほとんどの音声データベースには時間情報がなく、発話内容しか与えられていません。これは、音素の時間情報を同定する作業が非常に高コストだからです。このため、ニューラルネットを用いた音声認識は、これまでは学習時にHMM(隠れマルコフモデル)を用いた従来の音声認識を援用し、はじめに各音素の区間を音声認識によって推定する必要がありました。 これに対し、近年ニューラルネットだけで音声認識を可能とする枠組がいくつか提案されています。CTC (Connectionist Temporal Classification) は、そのようなアルゴリズムの1つです。 CTCの学習では、通常の交差エントロピー損失ではなく、縮約すると正解音素列と一致するような全ての音素列の確率の和をネットワークの出力の「望ましさ」と考え、その対数にマイナスを付けた関数を損失関数とします。例えば、縮約すると /h a i/
温度付きsoftmax 覚書 - Qiita
温度付きsoftmax (softmax with temperature) いつ使うか モデルの蒸留なんかに出てくる損失関数 (多分他にも出てくるんだろうけどあまり知らない)． 「ちょっと高い確率で出てきたクラスを重視して学習したい！」とか「低い確率のクラスを切り捨てずに学習したい！」ときに使われる． 数式 $$ S(y_i)=\frac{e^{\frac{y_i}{T}}}{\Sigma{e^{\frac{y_k}{T}}}} $$ 実装(Chainer) import chainer import numpy as np def softmax_with_temperature(x, temperature: float) -> chainer.Variable: return F.softmax(x / temperature) softmax_with_temperature(n
Tomasi-Kanade法による3次元復元 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? こんにちは，いしたーです．最近はDeNAで3次元復元関連のアルバイトをしています． 今回は3次元復元の古典的な手法であるTomasi-Kanade法[1]の解説をしていきます． コードはGitHubにあります． Tomasi-Kanade法とは 2次元の画像の集合から3次元の物体を復元する手法です． さっそくデモをお見せします． これらはある3次元の点の集合を撮影(平面に投影)したものです． これらの画像をTomasi-Kanade法で処理すると，こんなふうにもとの3次元の点群を2次元の点群のみから復元することができます． 実際に実行し
[chainer] F.hstackメモ - Qiita
import chainer import chainer.functions as F import numpy as np hoge = np.array([i for i in range(9)]).reshape(3,3) """ array([[0, 1, 2], [3, 4, 5], [6, 7, 8]]) (3, 3) """ hogehoge = np.array([i*i for i in range(9)]).reshape(3,3) """ array([[ 0, 1, 4], [ 9, 16, 25], [36, 49, 64]]) (3, 3) """ hogehogehoge = F.hstack((hoge, hogehoge)) """ variable([[ 0 1 2 0 1 4] [ 3 4 5 9 16 25] [ 6 7 8 36 49 64]])
![[chainer] F.hstackメモ - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/c7155641efee42ee18d48f58fe5f0f86dfb6e028/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fqiita-user-contents.imgix.net%252Fhttps%25253A%25252F%25252Fcdn.qiita.com%25252Fassets%25252Fpublic%25252Farticle-ogp-background-afbab5eb44e0b055cce1258705637a91.png%253Fixlib%253Drb-4.0.0%2526w%253D1200%2526blend64%253DaHR0cHM6Ly9xaWl0YS11c2VyLXByb2ZpbGUtaW1hZ2VzLmltZ2l4Lm5ldC9odHRwcyUzQSUyRiUyRnFpaXRhLWltYWdlLXN0b3JlLnMzLmFwLW5vcnRoZWFzdC0xLmFtYXpvbmF3cy5jb20lMkYwJTJGMjIyNzQ4JTJGcHJvZmlsZS1pbWFnZXMlMkYxNjA4MjQ3OTE3P2l4bGliPXJiLTQuMC4wJmFyPTElM0ExJmZpdD1jcm9wJm1hc2s9ZWxsaXBzZSZmbT1wbmczMiZzPWIzYTU3NmY5OTFkZjc3MWYxMWUyZmM3OTcyYWQ2N2E3%2526blend-x%253D120%2526blend-y%253D467%2526blend-w%253D82%2526blend-h%253D82%2526blend-mode%253Dnormal%2526s%253D411c6ee67067d31a446063ba0d14b94c%3Fixlib%3Drb-4.0.0%26w%3D1200%26fm%3Djpg%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk2MCZoPTMyNCZ0eHQ9JTVCY2hhaW5lciU1RCUyMEYuaHN0YWNrJUUzJTgzJUExJUUzJTgzJUEyJnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnR4dC1jb2xvcj0lMjMxRTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LXBhZD0wJnM9MzcxMDk4MTMwNTEwOGUzMDYzZjViZDMxODBkYjljYWI%26mark-x%3D120%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTgzOCZoPTU4JnR4dD0lNDBudC1zdXBpa2l0aSZ0eHQtY29sb3I9JTIzMUUyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTM2JnR4dC1wYWQ9MCZzPWNlMjlmNGM0ZGI5ZTg0NzU4ZDk5ZmU0Njc2NTNhYzNm%26blend-x%3D242%26blend-y%3D480%26blend-w%3D838%26blend-h%3D46%26blend-fit%3Dcrop%26blend-crop%3Dleft%252Cbottom%26blend-mode%3Dnormal%26s%3Df15311098d8197407430ee7c4b8bbe65)
gaussian_kl_divergenceメモ - Qiita
chainer.functions.loss.vae.gaussian_kl_divergenceの使い方メモ 引数に多変量正規分布の平均ベクトルと対数共分散行列をとり, 出力結果として 引数のパラメータをもつ多変量正規分布と多変量標準正規分布とのKL-divergenceの値を 返してくれる. VAEのコードを書く際に, 潜在分布と標準正規分布のKL-divergenceを最小化する 条件を書くと思うのでこいつを用いるとサラッとかけたりする. 下記の通り, 引数として用いる分散は対数を取ったものであることに注意. from chainer.functions.loss.vae import gaussian_kl_divergence mu = np.array([0.0, 0.0]) ln_var = np.array([[0.0, 0.0], [0.0, 0.0]]) gaussia
Azure Batch AI - AzureでGPU/マルチノードでディープラーニング計算を簡単に行う！（Chainer MN編） - Qiita
本稿では、Azure Batch AIを利用して、Chainer MNのMNISTのコードをGPUノードを複数並べて実行してみたいと思います。 Batch AIとは？ Batch AIとは、マイクロソフト社のパブリッククラウドであるAzureの1製品で、GPUの載ったノードを並べたクラスターをオンデマンドで簡単に作成しDockerを利用してディープラーニングの学習をすぐに実行できる環境を提供する仕組みです。 ＊製品イメージ図 ポイント ・Nvidia社のGPU（Tesla V100, P100, P40, K80）を載せたサーバーを大量に並べたクラスターを、1行のコマンドで作成できます。 ・マルチノード時に必要なノード間の通信もAzureが自動設定。低レイテンシーなRDMAネットワークを提供するInfinibandも利用可能です。 ・価格が8割引きになる低優先度仮想マシンを利用して、通常利
Azure Batch AI - Chainer MNをInfiniband / GPU付きノードで高速並列実行する！ - Qiita
Azure Batch AI - AzureでGPU/マルチノードでディープラーニング計算を簡単に行う！（Chainer MN編） https://qiita.com/YoshiakiOi/items/2f143e62bcf5d7daa8e9 に続いて、Batch AIを使っていきます。 今回はChainer MNのジョブを、AzureのInfiniband付き（もちろんGPUも！）ノードで並列実行していきます！ Batch AIとは？ 前項参照。 https://qiita.com/YoshiakiOi/items/2f143e62bcf5d7daa8e9 ディープラーニングの学習を、オンデマンドでたくさんGPU付きノードを並べたクラスターを作成して、簡単に並列実行できるようにする、Microsoft Azureの1製品。 今回はInfinibandを利用して、より高速に実行できる環境を
DeepLearningの学習経過をslackで受け取れるようにする - Qiita
モチベーション DeepLearningの学習って結構時間がかかりますよね? (数時間とか、ヘタしたら数日とか・・・) 手元のPCで学習が回っていて常に状況を確認できるならともかく、リモートのPCで学習は回っていたり、大体時間がかかるからってどっかに出掛けてみたりするじゃないですか。 でも学習が進んでいるかどうかは定期的に知りたい。もっと言えば、エラーで途中終了しているのはすぐにでも知りたい（学習終わってるかな？って思って見てみたら止まってた・・・(泣)みたいなのは避けたい）。 そこで、Slackのpython-slackclientを使って学習結果をslackのchannelに定期的に通知する方法を紹介します。 前半は単純にpython-slackclientの簡単な使い方、後半はchainerのExtensionとしてこのSlack通知機能を実装する方法を説明します。 こんな感じを目指
Anaconda NavigatorでTensorFlowやChainerをインストール - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 前提と結論 会社で久しぶりに機械学習（というかディープラーニング）をやることになったので、勉強用に自宅の低スペックノートPCに開発環境を構築した時のメモ。 ネットで調べるとcuDNNのセットアップの方法とか色々書いてありますけど、普通のPCで動かすだけなら、Anaconda Navigator からGUIだけでインストールできました。 （CPU版でちょっと勉強したい人向け。本格的にやりたい人のGPU版も入りそうですけど、試せないので正しく動くかどうかはわかりません） 試した環境 Windows10 64bit (CPU: Intel C
機械学習でサザエさんとじゃんけん勝負（ニューラルネットワーク編） - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 先日、「サザエさんじゃんけん研究所」1様の「サザエさんじゃんけん白書」が話題になりました。 日曜夕方の代表的なアニメ「サザエさん」の次回予告で行われる「じゃんけん」を記録し、傾向と対策をまとめているという恐ろしい資料です。 1991年11月の開始から現在に至るまで、26年以上のじゃんけんの手が毎週分（執筆時点で1348回！）全て記録されているというから驚きです。2 さらに「サザエさんじゃんけん研究所」様では、傾向と対策を基にサザエさんと毎週じゃんけん勝負をしていて、1996年1月～2018年8月第2週の22年以上で通算勝率70
【将棋AI】「将棋AIで学ぶディープラーニング」を読む♪～Chainer環境構築 - Qiita
本書はいわゆる将棋AIをPythonで実現する手法の解説本でありながら、ディープラーニングが学べるというものである。 ※この画像サイズ指定のマークダウン記法は以下参考 Qiita マークダウン記法 一覧表・チートシート alignment効いてないけど、。。 Markdown and image alignment しかし、なんといっても最初の一歩であるChainer環境構築が結構大変。ということで今日はここをまとめておこうと思う。 結局、ほぼほぼ以下の参考のとおりです。 【参考】 ・WindowsでChainer（Cuda＋Cupy）をインストールしようとしたらハマったのでメモ やったこと（やるべきこと） （１）Pythonのインストール （２）Visual Studio 2015 Community Editionをインストール （３）Cudaのインストール （４）cudnnのインスト
【将棋AI】「将棋AIで学ぶディープラーニング」を読む♪～Chainerの基本 - Qiita
第二夜は、Chainerの基本です。 本書では、わずか７頁の部分ですが、Deeplearningでどのように動くべきか動かすべきかが分かる教育的なコードです。 まず、ChainerのMnistを解説する前にTensorflowとKerasそしてChainerの同様なMnistのコード記載したいと思います。 ### 今回説明したいこと （１）[TensorflowのMnistコード](https://www.tensorflow.org/tutorials/)と実行結果 （２）[KerasのMnistコード](https://github.com/keras-team/keras/blob/master/examples/mnist_cnn.py)と実行結果 （３）[ChainerExampleのMnistコード](https://github.com/chainer/chainer/blo
【将棋AI】「将棋AIで学ぶディープラーニング」を読む♪～方策ネットワーク - Qiita
第三夜は、方策ネットワークについて記述します。 ある意味考え方として前半の最大の山場です。 基本的には、昨夜のChainerの基本がもとになります。 ### 説明したいこと （１）基本はMNISTと同じ （２）入力チャンネルについて （３）出力チャンネルについて （４）方策ネットワークのコード ### （１）基本はMNISTと同じ ということで、mnistのモデルをおさらいしましょう。 ネットワーク定義は以下のとおりでした。 # ネットワーク定義 class MLP(Chain): def __init__(self, n_units): super(MLP, self).__init__() with self.init_scope(): self.l1 = L.Linear(None, n_units) # 入力層 self.l2 = L.Linear(None, n_units) #
AlphaGoを模したオセロAIを作る(4): モンテカルロ木探索 - Qiita
はじめに 本記事は全4回連載の最終回です．ここまで長い道のりでした…！ 前回の記事はこちら． AlphaGoを模したオセロAIを作る(3): バリューネットワーク - Qiita また，ソースコードの全文はこちらにあります． これまでに作ったSLポリシーネットワークとバリューネットワークを使って，**モンテカルロ木探索(Monte Carlo tree search; MCTS)**というアルゴリズムでゲーム木を賢く探索することで先読みを行います． ロールアウトポリシー まず，SLポリシーネットワークを単純化したロールアウトポリシーを作ります． モンテカルロ木探索では，ゲーム木の葉ノード（局面）からあるポリシーに従って終局までシミュレーションを実行すること（プレイアウトと呼びます）を何度も繰り返し，その結果をノードの評価値に利用します． プレイアウト回数が多ければ多いほど評価の精度が高くな
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Chainer v4 PILからNumpy NumpyからPILの変換 - Qiita
学習率の調整、予め足すか？後から足すか？ - Qiita
MNISTをChainerで深層学習 NN/CNN/RNN - Qiita
