Machine Learning with TensorFlow Google Cloud 日本語版 Specialization

はじめに AWS EC2、オンプレ環境でKerasの環境構築を繰り返しています。 マシンが10〜100台となる計画があり、Ansibleで自動構築をしました。 Install TensorFlow on UbuntuのTensorFlow GPU supportを参考にしています。 自動構築の概要 hostsのIPアドレスを修正して、ansible-playbookで自動構築できます!!! 一応、流れを把握して頂いた後、自動実行して頂ければと思います 前提 Ansibleの基本的な解説はしません Ubuntu Server 16.04 LTS Python3 Tesla K80 解説 NVIDIAドライバ 384.x or higherが要求条件です Ubuntu Server 16.04 LTSのnvidia-384を利用します CUDA CUDA 9.0が要求条件です cuda-cub
米Microsoft傘下のLinkedIn開発者は9月12日、Apache Hadoop上でTensorFlowをネイティブに動かすオープンソースプロジェクト「TensorFlow on YARN(TonY)」を発表した。 TensorFlow on YARN(TonY)は、大規模なApache Hadoop実装上で分散型で機械学習を運用するためにLinkedIn社内で開発されたフレームワーク。単一ノードまたは分散型のTensorFlowトレーニングをHadoopアプリケーションとして動かすことができる。 開発チームによると、それまで「TensorFlow on Spark」やIntelの「TensorFlowOnYARN」を試したが、信頼性や柔軟性に欠けたため新たに開発することにしたという。TonYでは、リソースネゴシエーションやコンテナ環境設定などのタスク処理を通じてTensorFlo
自宅(Windows10)でどうしてもUbuntu開発環境がほしかったので構築しました。 今後Tensorflowを用いたディープラーニング系の記事を投稿していく予定です。 GPUも使えるようにしたい。 環境 Windows 10 Pro Oracle VirtualBox 5.2.18(投稿時最新版) 構築手順 VirtualBoxのダウンロード・インストール こちらのサイト[1]が非常に参考になります Ubuntu 16.04 LTS のダウンロード IOSイメージをダウンロードしてください。次のステップで使います 仮想マシンの作成・初期設定 こちらのサイト[2]で丁寧に説明しています おすすめ初期設定 VirtualBox クリップボードの共有、ドラッグ&ドロップの設定 仮想マシンの設定 -> 一般 -> 高度 -> クリップボードの共有 -> 双方向 仮想マシンの設定 -> 一般
Epoch数が少ないと学習が足りず、多すぎると過学習になりますが なんか自動で止める方法はないものだろうか・・・と調べると 灯台下暗し本家にありました 何ができるのか Epoch終了後の各数値(acc,loss,val_acc,val_loss)を監視して条件が揃った場合モデルを保存します 例えば下記の使い方の設定方法を設定し学習を行うと「Val_loss」を監視します 1Epoch終了後に「保存されている重みの「Val_loss」>学習後の「Val_loss」」 の場合の時だけモデル全体を保存します これにより適当にEpochを決めて過学習となってしまった場合でも モデルファイルはそれ以前の「Val_loss」が最小の時のモデルファイルが 保存されるのでやり直しがなくて便利です 確認環境 python3.6.6 Tensorflow:1.10.0 Keras:2.2.2 使い方 直接mo
1.初めに 1.1 GoogleColaboratoryはさらっと流してメインはMNISTとGPUのすごさについて解説していきます。 2.GoogleColaboratoryについて 2.1勧める理由 これは神です。(異論認める)なぜそんなに勧めるのかというと、理由は主にしたの三つです。 GoogleDriveと連携しているのでいつでもアクセスできる! 高性能GPUが無料! エラーは調べてくれる! 本当にそのままです。大きいのは二つ目。GPUが使用できればVGG likeもお手の物!すぐに実用化できます。 しかし制約もあるので、詳しくはほかを参考にしてください。 2.2使い方 簡単です。GoogleColaboratoryのサイトにアクセスしてください。 ログインして、ファイル→Python3の新しいノートブックで自動生成されます。自分のGoogleのMyDriveに以下のようなフォルダが
先日TensorFlowのチュートリアルにある基本的な分類のサンプルコードを試しましたが、精度はせいぜい90%足らずでそれほど高くはありません。 今回はCNNのモデル作成について調べつつ、Fashion-MNISTの精度改善に取り組んでみました。 Attribution Fashion-MINISTの分類サンプルはTensorFlowのチュートリアルをコピー&改変しています。[1] Portions of this page are modifications based on work created and shared by Google and used according to terms described in the Creative Commons 3.0 Attribution License. 実行環境 今回はGoogle Colaboratoryを実行環境として使用
漢なら, TensorFlow for C API で推論を極めたいですね! やりましょう! C API は主に言語バインディング用に提供されていますが, 特に CPU で推論だけさせたい場合は, C++ API よりも C API を利用するといろいろ楽になります. 利点 API がわかりやすい C++ だと多数のヘッダファイルを読み込んだり, 各種使える class やメソッド名を調べるのが大変です. 特に TensorFlow の使い始めだと理解するのに時間がかかります. C API はヘッダファイルが一つであり, API もわかりやすくなっています. メモリ管理が明示的 メモリ確保, 解放のタイミングが明示的なのでメモリ管理がわかりやすい. メモリリークが気になる場合は ASAN(Aaddress Sanitizer) などを使えばだいたいトラッキングできます. リンクしやすい C
はじめに kerasではVGGなどのpretrained modelを簡単に利用できます。 一方、tensorflowにはpretrained modelが含まれていないため、 ネットワーク定義やweightをどこかから入手してくる必要があり、面倒です。 (TFLearnやTF-Slimには含まれているようですが、tensorflowのラッパーはkerasだけでお腹いっぱいです) そこで本記事では、kerasのpretrained modelをtensorflowで利用してfinetuningする方法を紹介します。 参考ページ http://zachmoshe.com/2017/11/11/use-keras-models-with-tf.html https://github.com/JihongJu/keras-fcn/blob/master/keras_fcn/metrics.py
Watson Studio の Notebook で YOLO V3 を使って物体検出をしてみたので紹介します。 YOLOは こちら が本家のサイトになりますが、さまざまなディープラーニングのフレームワークにも移植されています。今回は以下のKeras版を参考に、Watson StudioのNotebookでも動かせることを確認しました。 手順 Watson Studioでプロジェクトを作成して、以下リンク先から Notebook を作成します。 https://github.com/schiyoda/YOLOV3-Keras/blob/master/yolov3_keras.ipynb Notebookでは本家のサイトでも公開されている学習済みモデルをKerasで使用できるように変換した上で、物体検出のテストをしています。今回は有名な犬の写真で物体検出できたことが確認できました。 その他の
GANとは GAN GANは「generative adversarial networks」の略 日本語だと敵対的生成ネットワークという意味(adversarial=敵対的) その一種のDCGANでブレーク(以下DCGANベースで説明) 生成モデル 出力が画像等になるモデル DCGANでは、乱数を入力すると画像が生成される 敵対的とは 生成するネットワークと品評するネットワークを切磋琢磨させながら訓練 生成するネットワーク・・・Generator 品評するネットワーク・・・Discriminator と呼ばれる(モデルによっては別の名も) Discriminatorは、画像がデータセットに含まれる画像なのか生成した画像かを分類 DCGANの訓練の登場人物 訓練データセット・・・画像データセット 生成される画像・・・訓練データセットにありそうな画像 Generatorの入力・・・ランダムな
自己紹介・近況 名前: 中西克典 所属: 有限会社 来栖川電算 twitter: @n_kats_ 最近、Oculus Goを買って、OculusRoomとかでVR会議とか夢見るも、する相手がいない問題等で挫折 話すこと 機械学習の開発 オレオレライブラリでしたいこと 最近何をしているか 面白いモデルを思いついた、試そう → あ、ここ一般化してライブラリ化しとこ → 新しいこと思いついた(元の奴、試してないやつ) で、そのライブラリ化しているものは、 https://github.com/n-kats/mlbase こんなことしている中で何を思っているかの話をします 機械学習で困るところ 世の中に手法がたくさんあって試しきれない パラメータをいじっているうちにもとに戻せなくなった 色々作っているうちにカオスに というか、機械学習のアルゴリズムに関係ないところに時間がかかる・・・ 機械学習の
これはcloudpack あら便利カレンダー 2018の記事です。 追記 2019/09/20 v0.9.1で動作させる方法をまとめました。 MacでUnity ML-Agentsの環境を構築する(v0.9.1対応) - Qiita https://qiita.com/kai_kou/items/268ccf6f961f8ca8cba8 2019/04/05 2019/02/28にML-Agentsのv0.7.0がリリースされました。 @kingyo222 さんが利用手順をまとめてくれています。(Win) Unity:ML-Agents 2019年04月(ver0.7.0)での使い方 – 初心者向けUnity情報サイト https://www.fast-system.jp/unity%ef%bc%9aml-agents-2019%e5%b9%b404%e6%9c%88ver0-7-0%e3
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く