t-SNE の逆変換を試してみた
Parametric t-SNEでt-SNEの変換をニューラルネットで近似することができたので、 その逆についてもやってみました。 逆変換と言っても特に難しいことはやっておらず、 まず普通にBarnes-Hut t-SNEで訓練データを2次元に変換して、 変換後の座標を入力、変換前の座標を教師データとして教師あり学習を行います。 今回は、変換後の座標のうち訓練データにないような座標について、 どのように逆変換されるのかが気になるので汎化性能を高めるためにDropoutを入れました。 コードは次の通りです。 t-SNEの結果がこんな感じで、 適当に座標を指定して逆変換した結果がこれ かなり綺麗に逆変換できました。 deconvolutionを使えばもっとうまく逆変換できるかもしれませんが、 MNISTの結果としてはこれで十分だと思います。 なんとかしてこの方針で画像生成とかできないのかなーと
ディープラーニングで文書分類（２） | developer's blog
はじめに 前回ディープラーニング（CNN）を使って、文書分類を行う方法を示した。 今回は、前回示した方法を使って、Livedoor Newsコーパスをカテゴリー分類する分類器をTensorflowで実装していく。 全体像おさらい 今回作成するモデルの全体像は以下の図の通り。 詳細は前回の記事参照。 インプットデータの作成 Livedoor Newsコーパスの各文書を以下の図のような行列にする。 行=各文書の単語。行数を合わせる為に、500単語で区切っている。 列=各単語をWord2Vecで変換した100次元のベクトル。 models = { # ファイル名で当該文書の行列が取得できるようにする 'it-life-hack-6292880.txt':[ [-2.27736831e-01, -6.95074769e-03,...], # 旧式 [1.1219008 , -2.06810808,
画像の認識・理解シンポジウムMIRU2016に参加してきました - クックパッド開発者ブログ
こんにちは。人事部の小久保です。 8月1日（月）〜4日（木）の4日間、画像の認識・理解シンポジウムMIRUに研究開発部のメンバーと参加してきました。今回は、MIRUの内容やなぜ参加してきたのかについてご紹介したいと思います。 MIRUとは 今回で19回目を迎える画像の認識・理解シンポジウムで、画像の認識と理解技術に関する国内最大の会議です。 具体的には、研究者や技術者、学生が基礎から応用までさまざまな最新の研究発表をし、討論をする場となっています。今回は静岡の浜松で開催されました。 各自の発表内容は1枚のポスターにまとめられたものが展示されており、それぞれポスターの前で紹介する形になっています。発表やデモセッションに加えて、特別講演も別会場で行われました。 クックパッドの取り組み クックパッドは今回初めてMIRUに参加したのですが、企業展示という形でブースで発表をしました。 毎日午前中には
実践 機械学習システムメモ - Qiita
私が書籍"実践 機械学習システム"を読み勉強した時に参考にしたサイトと第1章のメモです。 機械学習参考サイトURL MPS Yokohama Deep Learning vol.01 数学的基礎から学ぶ Deep Learning TwoToReal FAQ Github:wrichert/BuildingMachineLearningSystemsWithPython １章 Pythonで始める機械学習 Python: SciPy で特徴量の相関を調べる Python: Scipy のカーブフィッティングを試す プログラマーじゃない人が始める人工知能: ScipyとMatplotlibを使ってデータの近似モデルを構築する matplotlib入門 - グラフの体裁を整える matplotlib入門 NumPy で回帰分析 "実践 機械学習システム"メモ # Numpyとは？ # 大規模な
33歳モバイルエンジニア道
iOSDC 2016で発表しました。 https://iosdc.jp/2016/ 中堅の話。
Qiitaの及川氏が考えるエンジニアの成長に必要なアウトプット
8月10日に行なわれたオラクルのIoT勉強会の後半、Qiitaのプロダクトマネージャーを務める及川卓也氏が登壇。Qiitaのサービス概要を紹介すると共に、なぜQiitaがエンジニアに資するサービスなのか、エンジニアの成長にまつわる持論と共に解説した。 開発者のモチベーションを高められる「Qiita」 「DEC時代はデータベースで競合していたし、マイクロソフトはSQL Serverでオラクルとバチバチやってた。グーグルなら関係ないかと思いきや、数年前から裁判し始めてしまった（笑）。そんな私がオラクルのこういう場所に立てて、とても光栄」と語り、会場を沸かす及川氏。「ソフトウェア開発を良くすることで 世界の進化を加速させる」というミッションに心動かされた及川氏は、昨年末にIncrementsにジョインし、現在は同社のプロダクトマネージャーとしてQiitaの開発プロジェクトを統括している。 Inc
workerパターンをcontext化してみたら…… - okzkメモ
はい、というわけで、前記事のworkerパターンをcontextつかったらどーなるか、についてです。 前の記事や、その元記事のソースを読んでいる前提ですので、未読の方はそちらの確認からお願いします。 さて、ざっくりとした変更の方針ですけど、以下の2点です。 contextを使うことで、workerの実装側でキャンセルできるようにする workerに渡す値はcontext経由にする。 というのをヤッツケでやってつくってみました。 以下変更点の解説です。 まず、元実装ではworkerで実行される処理がベタ書きだったのを汎用化するため、dispatcherのqueueに入れるjobをとqueueの定義を変更します。 type ( job struct { proc func(context.Context) ctx context.Context } Dispatcher struct { qu
Node.jsやCasperJSでのデバッグ - Itsukaraの日記
概要 クジラ飛行机さんの本「JS+Node.jsによるWebクローラー/ネットエージェント開発テクニック」で勉強中です。本を参考にして、Node.jsやCasperJSを使ったプログラムを試作してます。これに際し、デバッグで躓いたので、他の人でも参考になる可能性があると考え、メモを作成しました。 JS+Node.jsによるWebクローラー/ネットエージェント開発テクニック 作者: クジラ飛行机出版社/メーカー: ソシム発売日: 2015/08/31メディア: 単行本この商品を含むブログ (2件) を見る Node.jsでのデバッグ Node.jsでも、通常のJavascriptと同様に、ステップ実行や、ブレイクポイントの設定等ができます。 node-inspectorのインストール npmコマンドでnode-inspectorをインストールします。 $ npm install -g nod
Emacs の設定ファイルを複数環境で共有する方法｜user-login-name: 組込みエンジニアの思うところ
Emacs を使うなかで 設定ファイル（通称 .emacs）を複数の環境で共有したい 場合があります。複数のOS(Windows & Linux など)で1つの .emacs を共有する時や、 tramp（Windows なら plink）で他の端末にリモートログインしたりする時ですね。 こういう時に、 ログイン名（ユーザー名）で処理を切り替える と便利なときがあります。例えばこっちの環境ではProxyの設定が必要だけどあっちの環境ではProxyの設定は不要、とかですね。そんなときは、 user-login-name を使いましょう。下記は、ログイン名（ユーザー名）が「hoge_user_name」の時だけプロキシ設定をする記述する例です。 ;; ログイン名に応じてプロキシの設定を行う. (if (equal (user-login-name) "hoge_user_name") (set
iOSDC 2016に参加してきたよ #iosdc - Think Big Act Local
iOSDC 2016という、日本最大級のiOSのカンファレンスに参加してきました。 iosdc.jp iOSDCはiOS・その周辺技術に関するカンファレンスで、公式サイトには「iOSエンジニアが聞いて面白ければ何でもOK」と説明されています。 トークは数多くの応募の中から運営スタッフにより採択されます。当日は技術的なテーマはもちろん、「海外のカンファレンスで登壇する」や「ハッピーな開発チームを築く」など、幅広い内容のトークが行われました。 以下、参加した記録として気になったセッションや会場の様子などを振り返ってみたいと思います。 振り返り 会場 会場は練馬のCoconeriホールという場所でした。 www.nerima-idc.or.jp 個人的にちゃんと練馬に上陸するのは始めてで、最初は「渋谷近辺じゃないのか」と思ってたんですが、行ってみると案外練馬近いし、家から交通の便も良いし、子連れ
ISUCON予選突破を支えたオペレーション技術 - ゆううきブログ
ISUCONに参加する会社の同僚を応援するために、ISUCONの予選突破する上で必要なオペレーション技術を紹介します。 自分がISUCONに初出場したときに知りたかったことを意識して書いてみました。 一応、過去2回予選突破した経験があるので、それなりには参考になると思います。 といっても、中身は至って標準的な内容です。 特に、チームにオペレーションエンジニアがいない場合、役に立つと思います。 今年のISUCON6は開催間近で、まだ予選登録受付中です。 ※ 文中の設定ファイルなどはバージョンやその他の環境が異なると動かなかったりするので必ず検証してから使用してください。 ISUCONでやること (Goal) ISUCONでやることは、与えられたウェブアプリケーションをとにかく高速化することだけです。 高速化と一口に言っても、複数のゴールがあります。ウェブアプリケーションの場合は以下のようなも
Docker for Windows をあと 10 分位使ってみた（Shared Drives を触る） - ようへいの日々精進XP
tl;dr Docker for Windows の Settings... に Shared Drives という設定があったので触ってみた。 どうやらホスト OS のドライブ（フォルダ）を Docker のボリュームオプションを使ってマウントする為の設定らしい。 メモ Shared Drives を有効にする コンテナからマウントして操作する docker run のボリュームオプションを利用してホスト OS のフォルダをマウントする。 PS C:\Users\kappa> dir .\Documents\tmp\docker\ ディレクトリ: C:\Users\kappa\Documents\tmp\docker Mode LastWriteTime Length Name ---- ------------- ------ ---- d----- 2016/08/07 22:06
パフォーマンスを意識して正規表現を書く - Shin x Blog
正規表現を書く際、どのようなパターンにマッチさせるか、どこをキャプチャするかという視点で記述することはあっても、パフォーマンスを考えて記述するというのはある程度知っている人でなければ忘れがちな視点です。 このエントリでは、バックトラックをメインに正規表現がパフォーマンスに及ぼす挙動について見ていきます。 対象の正規表現エンジン ここでは、従来型 NFA を対象としています。具体的には、PHP の preg_ 関数で利用している PCRE や mb_ereg 関数が利用している鬼車です。Perl や Ruby、Python、Java、.NET でも従来型 NFA を採用しているので、似た挙動となるでしょう。 「従来型 NFA」や「バックトラック」などの用語については、「詳説 正規表現 第3版」のものを用いています。 バックトラックによるマッチ探査 正規表現エンジンでは、指定された文字列が、パ
講義まとめ：自然言語処理のための深層学習（CS224d） - Qiita
CS224d(自然言語処理のための深層学習)はスタンフォード大のRichard Socherが2015年から教えている講義で、動画やスライドなどの講義資料と演習問題がウェブ上で無料で公開されています。 CS224d: Deep Learning for Natural Language Processing 会社の勉強会で週1回半年程度かけて講義動画と演習を終えたため、勉強したことを簡単にまとめてみたいと思います。 なぜ今なのか？ 深層学習（Deep Learning）は2000年代後半のRBMやauto-encoderなどの教師なし学習から流行が始まりましたが、それらを教師あり学習の事前学習に使うアプローチは徐々に衰退し、2010年代前半には画像認識のための畳み込みネットワークがImageNetコンテストのおかげで爆発的に有名になりました。詳しくありませんが音声認識の分野でも既存の複雑な
本を書くためのアウトラインエディタを作ってる - mizchi's blog
少し前からアウトラインエディタを作ってる。 こんなの (画面は開発中のものです) ファイルツリー 複数シート同時編集 ファイルツリーUIというのをスクラッチで初めて作ってみたんだけど、「当然こう動いて欲しいよな」というヒューリスティックな挙動をたくさん作るハメになってて学びがある。 なぜ作ったか 技術書を書いて Kindle Direct Publishing で販売しようと思って、Macで売れてるアウトラインエディタを一通り試したんだけど、惜しい物が多くて、個人的にしっくり馴染むものがなかった。なので、技術書を書く前に、自分が本を書くために必要なツールを作るところから始めることにした。 作家・藤井太洋に聞く 「小説を書くためのツール、Scrivener」 - DOTPLACE を読んで、その辺のアプリに対する感覚を自分でも意識して作ってる。Scrivener は wysysig なんで自
超速！英文メールは｢型｣を覚えるのが9割
コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕
ボロノイ図の概要とPythonサンプルコード - MyEnigma
なわばりの数理モデル -ボロノイ図からの数理工学入門-posted with カエレバ杉原 厚吉 共立出版 2009-02-24 Amazonで探す楽天市場で探すYahooショッピングで探す 目次 目次 ボロノイ図とは ロボティクスにおけるボロノイ図 Pythonサンプルコード 参考資料 MyEnigma Supporters ボロノイ図とは ボロノイ図は、 ある平面内の点を、 ある特定の点群の中からどれに最も近いかによって 分割してできる図のことを指します。 (下図はボロノイ図の例) ボロノイ図 - Wikipedia 第11回 ボロノイ図の作成（前編）：Blogopolisから学ぶ計算幾何｜gihyo.jp … 技術評論社 ボロノイ図とは ボロノイ図を作る - Qiita ボロノイ図を作るための 特定の点群を母点といい、 ボロノイ図の境界は、 それぞれ隣接する母点の垂直二等分線で構成さ
フィッシャーの線形判別 - HELLO CYBERNETICS
フィッシャーの線形判別は、データを分類する際に統計学の分野で古くから使われている手法です。「判別」という言葉が付いていますが、事実上これはデータを分類するための都合の良い線形変換を見つける手法だと言えます。フィッシャーの線形判別は主成分分析などと同じように、古くから使われている有用な手法というだけでなく、線形代数や統計の基礎的な復習にもなるので絶好のテーマです。是非マスターしてしまいましょう。 直感的な例 問題設定 線形変換決定への戦略1 線形変換決定への戦略2 フィッシャーの線形判別の定式化 1.平均に関して 2.分散に関して フィッシャーの線形判別の評価関数 解を求める 最後に 直感的な例 この画像ではデータは二次元で、赤と青の2クラスがあるという状況です(参照BRML, PRMLではないです)。このデータを一次元の直線上に射影した場合に、直線上のどの位置にデータ点が来るのかが示されて
Pythonで簡単な協調フィルタリングを実装するためのノート - Qiita
この記事について Pythonで 協調フィルタリング のアルゴリズムを簡単に書いてみる 協調フィルタリングはいわゆる「これを見ている人はこれも見ています」の仕組みのアレである。 ここで扱っているのは非常に簡単なアルゴリズムなので、実際に何かの用途にそのまま使えるようなものではないが、協調フィルタリングアルゴリズムのHow to Workを簡単に理解するには役立つだろう。 この記事のコードを実際に書いてみれば、「これを見ている人はこれも見ています」のロジックはコンセプト自体はそれほど難解ではないということが理解いただけると思う。 協調フィルタリングを勉強するのに有用なサイト なお、この記事で扱っているコードはこのサイトを参考にしている。 英語を読むのに抵抗がない諸氏はオリジナルのサイトを読んでも良いだろう。 その他、レコメンドシステムのコンセプトを勉強するのに有用なサイトを幾つか列挙する 特
From Online Behaviors to Offline Retailing (KDD 2016) 読んだ - 糞糞糞ネット弁慶
From Online Behaviors to Offline Retailing オンラインの行動とオフラインの購買を同時に分析する．すなわち，「オフラインの行動とオンラインの行動にはどういう関係があるか」がわかる． また，実験では「直近での検索行動を用いることによりその後の購買で何を買うか」を予測している． 提案手法 : Online to Offline Topic Model (OTOTM) 入力として用いるのは次の二つ． オンラインにおける各ユーザの検索履歴 (単語集号) オフラインにおける各ユーザの購買履歴 (ブランド集合) 今回はショッピングモールにおける購買したブランドを用いている またこれ以降，各ユーザの検索履歴および購買履歴は bag-of-words / bag-of-brands として取り扱う． すなわち，系列性や順序関係は考慮しない． まずこれを LDA でモ
衝撃的な効率性～最高の DevOps チームは「知っている事」で構成されていた～ - メソッド屋のブログ
今回マイクロソフトの社内カンファレンスに参加するために、シアトルに滞在したが、以前からどうしてもやりたかった、マイクロソフト最高の DevOps チームを直接観察してみたいという夢をかなえてみた。 私はマイクロソフトの DevOps エバンジェリストだが、Sam Guckenheimerのチームの話は、本人の口と、プレゼンテーションと、アーティクル経由で理解したものに過ぎない。現場に行って本物を見てみたかったのだ。 だから、今回Ｓａｍにお願いして、VSTS/TFSを開発しているMatthewのチームを観察させてもらった。そこで得たことを皆さんと共有しておきたい。 気になっていたSamの一言 VSTS / TFSの開発チームがいるビルにやってきた。ここにあのチームがいるのかと思うとすごくワクワクしてきた。一体どんなことを彼らはやっているのだろう。それと同時に、私が顧客訪問をSamと日本で行っ
Linux 4.7の新機能「perf trace calls stack」めも - φ(・・*)ゞ ｳｰﾝ カーネルとか弄ったりのメモ
kernelnewbies.orgのLinux Changesを見てて良さげだなと思った「perf trace calls stack」のめもを。 基本的な使い方は説明が書かれているので、 perfでread、open、closeシステムコールを指定する場合。 masami@saga:~/tmp$ sudo perf trace -e read,open,close cat test.c #include <stdio.h> static void print_args(char **argv) { while (*argv) { printf("%s\n", *argv++); } } int main(int argc, char **argv) { print_args(argv); return 0; } 0.019 ( 0.019 ms): cat/8165 open(filen
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
自律制御しながら動的平衡状態の系を作るWebシステムとその未来 / a Future of Dimensionless Autonomous System
【メンズ】オススメの人気ランニングウェア、シューズブランド&選び方大全
DAZNがついに開始!PCとiPhoneアプリとFireTVStickを使ってみた