【決定版】スーパーわかりやすい最適化アルゴリズム -損失関数からAdamとニュートン法- - Qiita
オミータです。ツイッターで人工知能のことや他媒体で書いている記事など を紹介していますので、人工知能のことをもっと知りたい方などは気軽に@omiita_atiimoをフォローしてください！ 深層学習を知るにあたって、最適化アルゴリズム(Optimizer)の理解は避けて通れません。 ただ最適化アルゴリズムを理解しようとすると数式が出て来てしかも勾配降下法やらモーメンタムやらAdamやら、種類が多くあり複雑に見えてしまいます。 実は、これらが作られたのにはしっかりとした流れがあり、それを理解すれば 簡単に最適化アルゴリズムを理解することができます 。 ここではそもそもの最適化アルゴリズムと損失関数の意味から入り、最急降下法から最適化アルゴリズムの大定番のAdamそして二階微分のニュートン法まで順を追って 図をふんだんに使いながら丁寧に解説 していきます。 それでは早速最適化アルゴリズムとは何
脳死で覚えるkeras入門 - Qiita
前書き 全てのプログラマーは写経から始まる。 by俺 この記事は機械学習入門用ではありません。良質な写経元を提供するためにあります。無駄のないコードと無駄のない説明を用意したつもりです。kerasコーディングを忘れかけた時に立ち返られる原点となれば幸いです。 実行環境 python (3.7.10) tensorflow (2.4.1) keras (2.4.3) 対象者 pythonを自分の環境で動かせる人 かつ keras初心者 ■ kerasとは python で書かれた高水準のニューラルネットワークライブラリ。 (keras公式) もっとわかりやすく言うと... ディープラーニングを自力で全部作るのは大変。 でも、kerasを使うと簡単だよ！ ■ kerasコーディングの流れ データを用意する。 モデルを構築する。 モデルにデータを学習させる。 モデルを評価する。 ※モデルとは、デ
KerasのImageDataGeneratorにおけるbrightness_rangeの挙動 - Qiita
自分の備忘録/メモも兼ねて。 画像認識系のDeep Learningする際に、訓練データ（画像）を回転させたり左右反転したり、とデータの水増し（data augumentation）することってよくあると思います。Kerasでは、ImageDataGeneratorクラスを使って簡単に水増しできちゃうわけですが、その際のオプション「brightness_range」の挙動について。 Kerasのbrigtness_rangeとは brightness_rangeは、画像データの水増しの際に、明るさをランダムに変更するオプションです。こんな感じでImageDataGeneratorのコンストラクタに、brightness_rangeのオプションとして、明るさ変更の強度の範囲をタプルかリストで渡すだけです。あとはflowとかflow_from_directoryとかに上記を渡してあげると、ラン
Kerasからパラメータ抽出についてのメモ - Qiita
WeightとBiasを見るために Kerasでモデルをsaveしたときにハマったので、一応の自分用のメモ もし抽出で悩んだ人がいれば幸い 例として以下のMNISTの３層MLP(下はFunctional API) # coding utf-8 from __future__ import function import keras from keras.datasets import mnist from keras.models import Model from keras.layers import Dense, Dropout, Input from keras.optimizers import RMSprop (x_train, y_train), (x_test, y_test) = mnist.load_data() x_train = x_train.reshape(60
Kerasでメモリに乗りきらない量のデータを扱うための、fit_generator関数を試してみる - Qiita
画像関係のKaggleコンテストで、Kerasを使いつつコードを書いていたところ、前処理などで工夫しても厳しそうなレベルでメモリ不足に悩まされました。（しかし、一方で精度を上げるためになるべく多くのデータを使いたい） 他の人はどうやっているんだろう？と他人のカーネルを見ていたところ、KerasのSequentialクラスにfit_generator関数という、バッチ単位でデータを扱ってくれる（＝瞬間的なメモリが少なくて済む）関数を使っているようでした。 過去に読んだ書籍だと、この関数は使っていなかったので、触りながら色々調べてみます。 簡単な例で試してみる。 MNISTで試してみます。モデルのコード自体は、以前書いたGoogle colaboratoryを試してみる（Keras ＆ MNIST）のものをほぼそのまま使います。 X.shapeが(60000, 1, 28, 28)、y.sha
dockerで機械学習(31) with anaconda(31)「Fundamentals of Deep Learning」 By Nikhil Buduma - Qiita
dockerで機械学習(31) with anaconda(31)「Fundamentals of Deep Learning」 By Nikhil BudumaDeepLearningDockerAnacondaKeras小川メソッド 1.すぐに利用したい方へ(as soon as) 「Fundamentals of Deep Learning」 By Nikhil Buduma http://shop.oreilly.com/product/0636920039709.do python2で記述してある部分がありました。 python3で確かめ中です。 python2を入れ直します。 今、しばらくおまちください。 また、fdl_examples、cPickleの読み出しができていません。 <この項は書きかけです。順次追記します。> docker dockerを導入し、Windows,
KerasでF1スコアをmetircsに入れる際は要注意 - Qiita
KerasでF1スコアをモデルのmetrics（評価関数）に入れて訓練させてたら、えらい低い値が出てきました。「なんかおかしいな」と思ってよく検証してみたら、とんでもない穴があったので書いておきます。 環境：Keras v2.2.4 要点 KerasのmetricsにF1スコアを入れることはできるが、調和平均で出てくる値をバッチ間の算術平均で計算しているので正確な値ではない 正確な値を計算したかったらmetricsではなく、コールバックでエポックの最後に一括で求めるべき F1スコアとは Precision-recallのトレードオフの最適解を求めるための尺度。特に精度が意味をなさなくなる歪んだデータに対して有効。F1スコアについて知っている方は飛ばしていいです。 歪んだデータとは 2クラス分類を考えるとしましょう。設定は猫と犬の分類、メールがスパムかスパムではないか、なんでもいいです。2ク
dockerで機械学習(30) with anaconda(30)「Advanced Deep Learning with Keras」 By Philippe Remy - Qiita
dockerで機械学習(30) with anaconda(30)「Advanced Deep Learning with Keras」 By Philippe Remy DeepLearningDockerAnacondaKeras小川メソッド 1.すぐに利用したい方へ(as soon as) 「Advanced Deep Learning with Keras」 By Philippe Remy http://shop.oreilly.com/product/0636920154891.do docker dockerを導入し、Windows, Macではdockerを起動しておいてください。 Windowsでは、BiosでIntel Virtualizationをenableにしないとdockerが起動しない場合があります。 また、セキュリティの警告などが出ることがあります。 doc
【強化学習】強化学習、dqnの理論とは？？ - Qiita
第五夜は、第四夜の疑問、たくさんあったがまず基本的な理論？を取り上げたい。 やったこと （１）ちょっと理論 （２）何を学習しているのか （１）ちょっと理論 DQNの理論ってみんなが同じようなこと書いているが、どうもしっくりこないのでウワンなりに大切と思われることだけ端折りつつ書きたいと思う。何か見えてくることを期待して。 ※ということでこの項は全て参考の記載をよく読んで自己責任でご利用ください 【参考】 ①DQNの生い立ち ＋ Deep Q-NetworkをChainerで書いた ②強化学習入門 ～これから強化学習を学びたい人のための基礎知識～ ③人工知能概論 7 ④ベルマン方程式@Wikipedia ⑤DQNからRainbowまで 〜深層強化学習の最新動向〜 ⑥マルコフ決定過程@Wikipedia ⑦急いで学ぶDQN 基本的な考え方 dqnの基本という意味では、以下のベルマン方程式が基礎
CoreML変換時の謎のInvalid dst shapeを倒す - Qiita
謎のWarning coremltoolsでKerasでは完璧に動くモデルを変換するとこのようなWarningが出ることがあります。 RuntimeWarning: You will not be able to run predict() on this Core ML model.Underlying exception message was: Error compiling model: "compiler error: Invalid dst shape1 x 62 x 18 x 1->1->1 x 1 x 12 x 0 x 62 x ". ※ 最後のshapeは人によって違うと思います。 書いてあるとおりに読むと、「なんやかんや問題があって predict() が実行できません」と書いてありますが、これWarningなので実際mlmodelは生成されます。 ただ、CoreMLは
ssd_kerasを試してみる - Qiita
input_shape=(300, 300, 3) model = SSD300(input_shape, num_classes=NUM_CLASSES) model.load_weights('weights_SSD300.hdf5', by_name=True) bbox_util = BBoxUtility(NUM_CLASSES) --------------------------------------------------------------------------- TypeError Traceback (most recent call last) <ipython-input-3-dd64fe36fa33> in <module> 1 input_shape=(300, 300, 3) ----> 2 model = SSD300(input_shape, n
dockerで機械学習(18) with anaconda(18)「Deep Learning with Keras」 Antonio Gulli, Sujit Pal著 - Qiita
dockerで機械学習(18) with anaconda(18)「Deep Learning with Keras」 Antonio Gulli, Sujit Pal著PythonDockerKeras小川メソッドDoCAP 1.すぐに利用したい方へ(as soon as) ごめんなさい。 現在、作業中です。下の方に示すエラーがでていて、悪戦苦闘中です。 「Deep Learning with Keras」 Antonio Gulli, Sujit Pal著 http://shop.oreilly.com/product/0636920163886.do docker dockerを導入し、Windows, Macではdockerを起動しておいてください。 Windowsでは、BiosでIntel Virtualizationをenableにしないとdockerが起動しない場合があります
google colaboratoryで転移学習を使ってみました - Qiita
import google.colab import googleapiclient.discovery import googleapiclient.http google.colab.auth.authenticate_user() drive_service = googleapiclient.discovery.build('drive', 'v3') upload_filename = 'all.zip' file_list = drive_service.files().list(q="name='" + upload_filename + "'").execute().get('files') # ファイル ID を取得します。 file_id = None for file in file_list: if file.get('name') == upload_filena
Kerasで実装するSeq2Seq −その3 多層LSTMとBidirectional - Qiita
本稿では、KerasベースのSeq2Seq（Sequence to Sequence）モデルによるチャットボットを、Bidirectionalの多層LSTM(Long short-term memory)アーキテクチャで作成し、Google Colaboratory上で動かしてみます。 １． はじめに 本稿はSeq2SeqをKerasで構築し、チャットボットの作成を目指す投稿の3回目です。前回の投稿では、単層LSTMのSeq2Seqニューラルネットワークを構築しましたが、今回は、これをBidirectionalの多層LSTMに拡張します。 ２． 本稿のゴール 以下のとおりです。 ニューラルネットワーク（Bidirectional多層LSTM）の構築と、訓練 応答文生成 なお、本稿の前提となる動作環境は、冒頭でも触れたとおり、Google Colaboratoryです。 ただし、Google
dockerで機械学習(73) with R (3)「RとKerasによるディープラーニング」François Chollet、J. J. Allaire著 統計(46) - Qiita
dockerで機械学習(73) with R (3)「RとKerasによるディープラーニング」François Chollet、J. J. Allaire著 統計(46)R機械学習DockerKeras小川メソッド 1.すぐに利用したい方へ(as soon as) 「RとKerasによるディープラーニング」François Chollet、J. J. Allaire 著 https://www.oreilly.co.jp/books/9784873118574/ <この項は書きかけです。順次追記します。> docker dockerを導入し、Windows, Macではdockerを起動しておいてください。 Windowsでは、BiosでIntel Virtualizationをenableにしないとdockerが起動しない場合があります。 また、セキュリティの警告などが出ることがあります
画像等の配列を扱うときの操作方法 - Qiita
pythonの配列の操作の仕方は記事が多数ありますが 画像とかkerasに特化した 作業に対してどう記述すればいいのかをまとめてみました ええ、自分用メモです 画像を1枚だけNumpy配列にする（3次元） (224,224,3)で入力 リサイズの時はtarget_size=(224,224)を変更 jpg,bmpは読込確認済み 裏でPILが動いているらしいのでおそらくpngも平気なはず ※2018.10.23 pngも読み書きOKでした from keras.preprocessing.image import load_img, img_to_array img_path = ('./' + ファイル名 + '.jpg') img_3 = img_to_array(load_img(img_path, target_size=(224,224)))
CNNの学習結果を可視化する - Qiita
※△１ 2019.02.01 動かない環境があった為修正 ※△２ 2019.02.03 文章を各所修正 CNNの任意の特長マップを使用して可視化をするスクリプトです 下記にある通りGrad-CAMで表示がおかしくなる学習結果に対しても そこそこ良好な可視化結果を得られています。 ただし問題がありまして、識別率が低い画像を可視化すると 判別に使用していない特長フィルターも可視化されてしまうので 関係ないところまで反応してしまうという問題があります この辺はGrad-CAMの手法で解決できるので 両方を使い分けるのがいいと思います 確認環境 python3.6.6 , 3.6.7 , 3.6.8 Tensorflow:1.10.0 Keras：2.2.2 , 2.2.4 やり始めたきっかけ Grad-CAMを使って作成したモデルの評価を行っていました いつものデータセットを使いVGG16のファ
【dqn】初恋はあきらめろ？？ - Qiita
前回取り上げた秘書問題を再度取り上げようと思います。 秘書問題の大きな課題として以下二つの問題があります １．応募者１００人を超えてどこまで学習できるのか ２．理論はnが大きいとして$e/n$を導いているが、$n$が小さいときはどうなるの？？ 恋するウワンとしては、２の課題の方が切実なので今回はこれを取り上げてみたいと思います。 ２．理論はnが大きいとしてe/nを導いているが、nが小さいときはどうなるの？？ まず、採用成功率の推移を見てみましょう。 n=50 Episode 1: reward: 0.000, steps: 27 採用成功率(1000回)：0.394 n=20 Episode 1: reward: 0.000, steps: 20 採用成功率(1000回)：0.396 n=10 Episode 1: reward: 0.000, steps: 6 採用成功率(1000回)：
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
RNN① 初心者でも絶対わかるRNN - Qiita
ハロプロでGAN - Qiita