備忘録：R版Kerasで自前のモデルをfine-tuningする方法 - 渋谷駅前で働くデータサイエンティストのブログ
この記事は、別にちょっとした理由があってR版Kerasで自前のDNNモデルをfine-tuningしたいと思ったので、調べて得られた知識をただまとめただけの備忘録です。既にやり方をご存知の方や、興味がないという方はお読みにならなくても大丈夫です。ただし「このやり方間違ってるぞ」「その理解は誤っている」的なご指摘は大歓迎どころか大募集中ですので、コメントなどでご一報ください。 Fine-tuningとは R版Kerasのドキュメントに書いてあること Rコードと実験結果 Fine-tuningとは 前々から雰囲気では理解していたんですが*1、雰囲気しか知らないが故に適切なまとめ方が分からないのでこちらのブログ記事から引用させていただくと、 ファインチューニングとは、学習済みモデルの一部もしくはすべての層の重みを微調整する手法です。転移学習では、学習済みモデルの重みを固定して用いますが、ファイン
RにTorchとLightGBMがやってきた - 渋谷駅前で働くデータサイエンティストのブログ
これまで、RとPythonは両方使える人が少なくないながらも開発陣やコミュニティの思想が違うせいもあってか、「Rは統計学向け」「Pythonは機械学習向け」的な住み分けが年々進み、特に機械学習関連の重要なフレームワーク・ライブラリ類はPython向けのみがリリースされることが多く、R向けにはリリースされないということが常態化している印象がありました。 そんな中、この9月にPythonの機械学習OSSを代表する2つのライブラリが相次いでR版パッケージを発表したので、個人的にはなかなか驚きました。中には「この2つがRに来たからにはもうPythonは触らない」と豪語する過激派の方もいらっしゃるようですが（笑）、それはさておき個人的な備忘録としてこの2つのR版パッケージを試してみた記録を記事として残しておこうと思います。 なお、以下のモデリングはほぼ何もチューニングを行っておりません。あくまでも「
AIで原因と結果を把握する ~機械学習と因果推論の融合 Meta-Learner~｜Tack@データサイエンス
今回は、前回少ししか触れなかった、機械学習と因果推論の融合分野について解説していきます。 ■WHY なぜ機械学習と因果推論が融合するのか結論、個別の因果効果を把握することが求められているからです。 例えば、マーケティング施策の限られた予算の中で、 ・どの顧客にクーポンを打つのが効果的なのか ・どの種類のクーポンを打つと顧客はもっと商品を買ってくれるのか ・そのクーポンはどのチャネルで訴求するべきか ・はたまた本当はクーポンではなく新商品の広告の方がコストパフォーマンスが高いのではないか などを総合的に考慮する場合 または、治療をする際に ・どの人に優先的に治療をするべきか ・その人にはどの治療法が最も効果があるのか など個別の因果効果が求められる場面は多々あります。 どの方法もできる限り多く実行できれば良いのですが、 物事には基本的にリソース(予算・時間など)の制約があるため、 限られた範
RにTensorFlow + Kerasを実装した{keras}パッケージがやって来たので試してみた（追記2件あり） - 渋谷駅前で働くデータサイエンティストのブログ
Python側でのTensorFlowの隆盛を他所に、R側では{tensorflow}も使いにくいし*1これはPythonistaに転生しなければならんのかなぁ。。。ということを思っていたら、出ました。あのKerasのRパッケージです。 インストール手順は普通にhttps://rstudio.github.io/keras/に書いてある通り、以下の通りRコンソールから打てばおしまいです。 devtools::install_github("rstudio/keras") library(keras) install_tensorflow() ということで、早速色々試してみようと思います。 3層NNをサクッと試してみる データセットはこちらのXORデータセット（10万サンプル）を使います。 > d <- read.csv('xor_complex_large.txt', header=T,
Seminar | Deep Learning JP
参加条件： Deep Learning基礎講座修了か、もしくは同等レベルの知識を持つこと 基本的に毎週輪読会に参加できること 発表が割り当てられた場合，発表できること 参加方法： 下記のフォームをご記入下さい。（参加には基本紹介が必要となります。） https://docs.google.com/forms/d/e/1FAIpQLSfosRjTx_kFljDyVLjTKn_XLwCLWPOT6fOYUSwvINdUbuvfJw/viewform 輪読会の進め方： 2020年8月現在，会議は原則オンラインで行っています（コロナの影響）．オフラインイベントの復活時期は未定です． 大枠：45分,小枠20分×2の合計3件です。 時間は質疑込みの時間です。 基本は最初は小枠の発表に割り当てます。その中の一部メンバーに大枠の担当を依頼させていただきます。（大枠で話したいという方、何か話したいテーマがあ
ニューラルネットワークでFXの予測を試してみた。 - Qiita
前置き 基本初心者ですので調べ切れていない部分は思い込みでやっています。 ばかちんなので動かしてみないとわかりまてん。 今回は学習できてない場合どうなるかわかりました。 参考 Artificial neural networks approach to the forecast of stock marketprice movements 環境 Windows10 Python 3.5.2 keras2.0 + TensorFlow1.3 jupyter 次のcloseを予測してみる データ 通貨 : USD_JPY 足 : 日足 CSV読むところから from keras.models import Sequential from keras.layers import Dense, Dropout, Activation from keras.optimizers import Adam
Python LSTM (Long Short-Term Memory Network) for Stock Predictions
Data Visualization Now let's see what sort of data you have. You want data with various patterns occurring over time. plt.figure(figsize = (18,9)) plt.plot(range(df.shape[0]),(df['Low']+df['High'])/2.0) plt.xticks(range(0,df.shape[0],500),df['Date'].loc[::500],rotation=45) plt.xlabel('Date',fontsize=18) plt.ylabel('Mid Price',fontsize=18) plt.show() This graph already says a lot of things. The spe
Kerasを用いたディープラーニング（LSTM）による株価予測
ご注意：本記事は、＠IT／Deep Insider編集部（デジタルアドバンテージ社）が「deepinsider.jp」というサイトから、内容を改変することなく、そのまま「＠IT」へと転載したものです。このため用字用語の統一ルールなどは＠ITのそれとは一致しません。あらかじめご了承ください。 誰でもディープラーニングの時代 昨今、ディープラーニングの話を聞かない日はない。バズワードだった時期はとうに過ぎ、今や、実用化フェーズといっても過言ではない。 しかし、ディープラーニングの原理自体は非常に単純である。本質は、n次元ベクトル空間内の点の集合を、超平面で仕切って見せることである。しかも、計算をやってくれるライブラリが、何種類も公開されている。TensorFlowなどがそうであるが、ここにきて、Kerasというさらにコーディングが簡単なライブラリが発表されており、個人ベースでのディープラーニン
ログイン - はてな
パスワードを忘れた方はパスワードの再設定を行ってください。 うまくログインできない方はお問い合わせをご覧いただき、Cookieの設定をご確認ください。
Predictive Sales Analytics: Use Machine Learning to Predict and Optimize Product Backorders
If we take a look at the distribution of the target, train_raw_df$went_on_backorder, we see that the data set is severely imbalanced. We’ll need a strategy to balance the data set if we want to get maximum model performance and efficiency. # Unbalanced data set train_raw_df$went_on_backorder %>% table() %>% prop.table() ## . ## No Yes ## 0.993309279 0.006690721 We can also inspect missing values.
mxnetで頑張る深層学習
6. 多層パーセプトロン • irisデータでやってみる Sepal. Length Sepal. Width Petal. Length Petal. Width Species 5.1 3.5 1.4 0.2 setosa 4.9 3.0 1.4 0.2 setosa 4.7 3.2 1.3 0.2 setosa 4.6 3.1 1.5 0.2 setosa sepal petal setosa, versicolor, virginicaの各品種に50行ずつあるデータセット 7. 多層パーセプトロン • 学習⽤と検証⽤にデータを分割 > data(iris) > # 奇数⾏を学習⽤データ、偶数⾏を検証⽤データとする > train.ind <- seq(1, nrow(iris), 2) > > train.x <- data.matrix(iris[train.ind, 1:4])
勾配降下法の最適化アルゴリズムを概観する | POSTD
(編注：2020/10/01、2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次： さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最適化するアルゴリズム Momentum(慣性) Nesterovの加速勾配降下法 Adagrad Adadelta RMSprop Adam アルゴリズムの可視化 どのオプティマイザを選ぶべき？ SGDの並列化と分散化 Hogwild! Downpour SGD SGDのための遅延耐性アルゴリズム TensorFlow Elastic Averaging SGD 最適化されたSGDに対する更なる戦略 シャッフル学習とカリキュラム学習 バッチ正規化 早期終了 勾配ノイズ 結論 参考文献 勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネット
【随時更新】pyenv + Anaconda (Ubuntu 16.04 LTS) で機械学習のPython開発環境をオールインワンで整える | ALGO GEEKS
【随時更新】pyenv + Anaconda (Ubuntu 16.04 LTS) で機械学習のPython開発環境をオールインワンで整える 筆者の機械学習系のPython開発環境は、Vagrant を用いた Ubuntu (16.04 LTS) 上に構築しています。 ここでは、画像認識、音声認識、自然言語処理などに必要な環境をオールインワンで構築する手順をまとめます。 (最終更新日: 2016/11/14) OSバージョン OSバージョンは下記の通りです。 $ cat /etc/lsb-release DISTRIB_ID=Ubuntu DISTRIB_RELEASE=16.04 DISTRIB_CODENAME=xenial DISTRIB_DESCRIPTION="Ubuntu 16.04.1 LTS" $ uname -a Linux vagrant 4.4.0-31-generi
Chainer 1.11.0 で畳み込みニューラルネットワークを試してみる - Gunosyデータ分析ブログ
はじめまして，Gunosyデータ分析部の@hmjです． 2016年の2月からGunosyのデータマイニングエンジニアとして働いていて，今はデータ分析や記事配信アルゴリズム改善を行っています． 今回は，GunosyでのDeep Learningの利用例と， 先日リリースされたChainer 1.11.0*1 を使った簡単なCNNの実行例のご紹介をします． Deep Learning の Gunosy での利用例 背景 Deep Learning は，2012年に物体の認識率を競うILSVRCにて従来手法よりも高い精度をだし，機械学習の研究者らに衝撃を与えたといわれています*2． 最近では「人工知能」と同じレイヤーで語られるほど「Deep Learning」は未だに注目を集めています． そんな中で，弊社データ分析部でも Deep Learning の手法をいくつか試しています． 用いているタス
初心者でも今すぐ機械学習・ディープラーニングの勉強を始められるスライド11 - paiza開発日誌
Photo by PROTim Regan こんにちは。谷口です。 最近「人工知能」や「機械学習」に関する話をよく耳にします。実際に機械学習の勉強をしている人や、機械学習に関連した研究開発の求人を探す人も増えてきたなーと感じます。弊社のITエンジニアにも機械学習を勉強中という人がいますが、特に最初の頃は難しすぎて何から手を付けたらいいのかよく分からず、とても悩んだと言っていました。 というわけで今回は 実は機械学習とディープラーニングの違いがわかってない 機械学習勉強したいけど仕事してると体系的に学ぶ時間がない 仕事や研究で「機械学習やって」って言われそうな気配がする 過去に機械学習の勉強にチャレンジしたことがあるけど難解すぎて挫折した という方々のために、機械学習を勉強している弊社のエンジニアに、機械学習に入門した頃に役立ったスライドを聞いてきたのでご紹介します。 ■機械学習とディープラ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Time Series Analysis for Business Forecasting with Artificial Neural Networks
https://blogs.rstudio.com/tensorflow/posts/2017-12-20-time-series-forecasting-with-recurrent-neural-networks/
Redirecting to https://tidymodels.github.io/recipes/
h2o deep_ann | Kaggle
ディープラーニングのサンプルコード – Logicky BLOG
