GraphNetを使って足し算を学習する - Qiita
はじめに 前回はGraphNetを使って「とにかく５を出力する」ように学習しました。今回は、ノードやエッジの値を足し算する学習をしてみようと思います。 環境などは前回と同じです。 import numpy as np import sonnet as snt import graph_nets as gn import tensorflow as tf import matplotlib.pyplot as plt from pprint import pprint %matplotlib inline tf.reset_default_graph() def create_data_dict(n0=0., n1=0., e0=0., e1=0.): data_dict = dict( nodes=[[n0], [n1], [0.]], # node attrs (n0, n1, n2)
DeepMindのLibraryの graph_nets を使ってとにかく「５」と出力するGraphNetを作る
はじめに GraphNets というライブラリが DeepMind からリリースされています。 このライブラリは この論文 の実装として公開されたもので、 端的に言うと 「ノード、エッジ、Globalに任意の属性(≒任意のtensor)を持ったグラフを入力にし、 構造は同じだが属性が更新されたグラフ を出力する」 というネットワークブロックを提供するものです。 何が面白そうかというと、グラフという知識表現として非常に表現力の高いデータ構造を扱うことができるということです。 以前から、グラフ畳み込みニューラルネットワークというものが(やや)注目されていましたが、それの汎用的なデータフォーマットを定めて、扱いやすくしてくれたような位置づけだと思います。 とはいうものの、現状ほとんどドキュメントも無く、デモのソースコードを見ても中々使い方がわかりません。 試行錯誤の末、なんとか GraphNet
KerasでVAT(Virtual Adversarial Training)を使ってMNISTをやってみる - Qiita
はじめに 注: [改良版]KerasでVAT(Virtual Adversarial Training)を使ってMNISTをやってみる の方がマシな実装だと思うので参考にしてください。 遅まきながら、VAT(Virtual Adversarial Training)という学習方法を知ったのですが、Kerasでの実装が見つからなかったので実装してみました。 VATは簡単にいうと、「通常の入力X→出力Y」と「なるべく結果が異なるように入力Xに微小なノイズdを入力に加えた入力(X+d)→出力Y'」から「KL-Divergence(Y, Y')」を損失関数に余分に加えて学習をする手法です。 これだけだと何言ってるかわからないと思うので、詳しくは元の論文か、この方の解説をご覧になると良いかと思います。 VATは学習における位置づけとしては「正則化」に近いという話で、DropoutやNoiseを加える
KerasでContainerのTrainable=Falseにしたときの挙動 - Qiita
はじめに KerasでネットワークのWeightを固定させて、別のLayerのみ学習したいということはしばしばあります。その時に何を気をつけたら良いかを調べたメモです。 Versions Python 3.5.2 Keras 2.0.2 検証 下記のようなModelを考えます。 ここのNormalContainer の部分のWeightを「更新したい」ときと、「更新したくない」ときがあるとします。 直感的には Container#trainable というPropertyにFalseを設定すれば良さそうですが、それでちゃんと意図通り動くのかやってみます。 コード # coding: utf8 import numpy as np from keras.engine.topology import Input, Container from keras.engine.training imp
Kerasでちょっと難しいModelやTrainingを実装するときのTips - Qiita
はじめに ※ Keras2 を対象にしています。 Kerasのコードはシンプルでモジュール性が高いのでシンプルに記述可能で、理解しやすく使いやすいです。 ただし、標準で用意されている以外のLayerや学習をさせようとすると、あまりサンプルがなくてどう書いていいかわからなくなることが多いです。 最近いくつか変わったModelを書いた時に学んだTipsを備忘録も兼ねて共有します。 目次 Functional APIを使おう Weightを共有したい場合は Container を使うと便利 「LayerのOutput」と「生のTensor」は似て非なるもの Lambdaを使った簡易変換は便利 カスタムなLoss FunctionはSample別にLossを返す LayerじゃないところからLoss関数に式を追加したい場合 学習時にパラメータを更新しつつLossに反映した場合
コマンドライン起動系のPythonのプロジェクトをDockerコンテナに入れる個人的ベストプラクティス - Qiita
はじめに コマンドライン起動系のPythonのプロジェクトを定期実行やサービス化して様々な環境で安定して実行させたい場合、やはりDocker化するという選択肢があります。最近、私なりにその方法が固まってきたので共有します。 今回 コマンドライン起動系と書いているのは「Web系」の場合は少し違うかもな、と思ったからです。Pythonは 自分で使いたいVersionと OSに含まれるバージョンが競合したり、ライブラリのInstallが結構大変だったりするので(pipあまり賢くない...)、Docker化してリリースするのはかなり有効に思えます。 個人的要求 git にpushしたりすることなくコンテナ化したい コンテナ化にかかる時間は最小限にしたい 環境情報や鍵情報は実行時に指定したい Version Docker for Mac: Version 1.13.0-rc4-beta34.1 (1
TensorFlowで機械学習と戯れる: LSTMでユーザの行動を予測するモデルを作る実験 - Qiita
はじめに LSTM(Long Short Term Memory) は時系列データの学習によく用いられているものです。 わかるLSTM ～ 最近の動向と共にの記事がとても詳細に説明されています。 上記でも解説されていますが、LSTMは例えば「今までの単語列を入力として、もっともらしい次の単語を予測する」というような「文章の生成」に使うことができます。 このLSTMを使って、例えば、Webサービスにアクセスする 「ユーザの行動」を「単語」 とみなせば 「ユーザの一連の行動」は「文章」 とみなせるわけで、 「こういう行動を取ってきた人は、次にこういう行動を行う」という予測モデルが作れないかと考えました。 この予測モデルが作れれば、あとは文章生成のような形で 行動生成 ができます。つまり、ある種の ユーザ行動のシミュレーション ができることになります。 ユーザがある程度アクセスすれば、 このまま
DockerでJupyter Notebook環境をお手軽に準備する(TensorflowやGraphvizもあるよ） - Qiita
はじめに ちょっとデータ分析や機械学習をやってみたい、んだけど環境準備が少し面倒だとか、 ハンズオンとかやるんだけど環境セットアップの説明だけで結構時間を使ってしまう、ということがなきにしもあらずかと思います。 Jupyter Notebookは機能的にも素晴らしい環境ですし、Webブラウザがあれば使うことができます。そういう環境はDockerに入れておくと便利で、各自のLocalで起動して使うか、クラウドサーバで起動しておけば、Webブラウザがあれば誰でも使えるのでお手軽です。 既に公開されているDocker Containerもあるのですが、いくつか欲しいものが足りないので追加したものを作ったので共有します。 Jupyter Notebook Docker Container Dockerファイルはここにあります。 https://github.com/mokemokechicken/
機械学習と戯れる：Q-Learningでマーケティング系のActionを行うべきかの判断ができるか？ - Qiita
はじめに 以前 足し算ゲームを強化学習で学習できるか？ を試してみて、問題なく学習ができました。 今回はもう少し現実的な問題を想定してみようと思います。 Webサイトに来るユーザに対して、Webサイト運営者が「あるアクション(メール？クーポン？など）」を起こすと、望ましい行動(そのユーザが何か購入するなど)を取る、とします その時、どのユーザにどのタイミングでどのアクションを取ればいいか、を知りたい という問題があります。 まあ、メールぐらいなら全員に送れば良いじゃん的な話はありますが、送りすぎると離脱に繋がりますし、クーポンはコストもかかるのであまり乱発したくはないです。 この問題を Q-Learning的な枠組みでやったらどうなるのだろうか、というのが今回のお題です。 Q-Learningだと、アクションが複数になっても対応できるのが良い所です。 といっても、簡単な完全に仮想的なシチュ
State Machine CompilerのWebUI付きDockerコンテナの使い方 - Qiita
% docker run -d -p 8000:8000 -p 9000:9000 -p 10022:22 -v /var/lib/smc:/application/GoodParts/mnt mokemokechicken/smc_service ワンライナー！ｗ Dockerすごい！！ ちなみに初回はネットワークから数GBのImageを取得するので時間がかかりますが、2回目以降は一瞬です。 注意1： 8000,9000番portを開けて下さい <docker host>の8000と9000番 portにアクセスできる必要があります。 AWSなど使っている場合はportを開けるようにしてください。 注意２： Macでboot2dockerを使っている時 boot2dockerを使っている場合、 sqliteファイルが置かれる docker host の dir というのは、 Macのファ
Objective-CでDeferred/PromiseでMethod Chainを書くときのTips - Qiita
はじめに 「Objective-Cの文法とMethod Chainって致命的に相性悪いよね」というのを解消するTipsです。 さっき社内の後輩に教えてもらって感動したので投稿します。 問題点 最近かじり始めたDeferred/PromiseをObjective-Cでも使いたいと探していて、とりあえず CocoaPodsでInstallできる OMPromises https://github.com/b52/OMPromises というのを使っていました。 Promiseの考え方は、Webのみならず、通信や非同期Methodが多用されるiOS/Androidアプリでもとても重宝しそうです。 で、このOMPromisesですが、動作上はとりあえず問題無さそうなのですが、JavaScriptのようにMethodChainを行おうとすると、こんな感じになります。 return [[[[self
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
