MKL-DNNで学ぶIntel CPUの最適化手法 - Cybozu Inside Out | サイボウズエンジニアのブログ
初めに サイボウズ・ラボの光成です。 DNN（deep neural network : 深層学習）といえばGPUや専用プロセッサを使うのが主流です。 しかしIntelはCPUで高速にDNNをするためのライブラリ MKL-DNN を提供しています。 MKL-DNNはIntelの最新CPUに対応したオープンソースソフトウェアなのでコードを見ると勉強になります。 ここではMKL-DNNで使われているテクニックをいくつか紹介します。 概要 MKL-DNNの紹介 Xbyakの紹介 呼び出し規約 圧縮displacement ReLU exp 内積 vpdpbusd キャッシュコントロール 想定読者 C++11とx64 CPUのアセンブリ言語の知識をある程度仮定します。 機械学習についてはその知識がなくても最適化手法が理解できるよう、最小限の説明をします。 MKL-DNNの特長 まずMKL-DNNの
非公開サイト
サイトの構築。作品の販売。ブログの投稿。この他にもさまざまな機能があります。 ログイン サイトをはじめよう 非公開サイト このサイトは現在プライベート設定になっています。
Webブラウザでディープニューラルネットワーク高速実行 東大、「WebDNN」開発
「あなたのスマホへ最新の人工知能をお届けします」――東京大学は10月17日、スマートフォンやPCのWebブラウザ上で、ディープニューラルネットワーク（DNN）を高速で実行できるソフトウェアフレームワーク「WebDNN」を開発したと発表した。画像認識処理なら従来の約50倍の速度で実行でき、「世界最速」をうたう。Webサイトでサンプルを試せる。 DNNは画像や音声の認識・生成に有効な手法だが、計算負荷が高いため、Webサービスに組み込むためには、サーバ側で大量の計算機を用意するか、ユーザーの端末に専用アプリをインストールする必要があった。WebページにDNNの処理を行うソフトを組み込み、Webブラウザで開いて端末上で計算処理を行わせるというアイデアもあったが、既存のシステムは処理速度が遅く、実用的なサービスを提供することが難しかった。 今回、実行結果が変わらない範囲で計算量を削減したほか、We
ウェブブラウザ向け深層学習モデル高速実行フレームワーク「WebDNN」
2017/09/03 Deep Learning Acceleration勉強会@DeNAでの発表資料です。
seq2seq の chatbot を日本語で動かしてみた - higepon blog
最近ずっと NN/CNN/RNN/LSTM などで遊んでいたのだけど Seq2Seq の encoder/decoder と word embeddings を理解したかったので Seq2Seq の chatbot を動かしてみた。Keras でフルスクラッチで書いていたのだけど上手く動かず。論文読んでもわからないところがあったので https://github.com/1228337123/tensorflow-seq2seq-chatbot を自分なりに読み解いてプロセスが別れてわかりやすいように書き換えた。同時に日本語に対応させて Twitter Bot として動くようにした。 会話例 seq2seq Google 翻訳などでも利用されている seq2seq というタイプの Neural Networks を利用しています。入力も出力も時系列データ。例えば会話とか翻訳とかに使えます。
Demitasse〜DNN高速化ライブラリを公開しました – Tech.D-ITlab | Denso IT Laboratory researcher's blog sites
どうも吉田悠一です． 弊社の近藤がNIPS2016のWorkshopで発表したDemitasseをオープンソースで公開します． “Satoshi Kondo, “Demitasse: SPMD Programing Implementation of Deep Neural Network Library for Mobile Devices”, ML Systems Workshop NIPS 2016 PDF” https://github.com/DensoITLab/Demitasse llvmとispcを使い，Deep Learningの計算を高速化します． Demitasseによれば，iOSデバイス上でもGPUを使わずに数百msecの時間で，Caffe Model Zooによる画像認識を実行することができます． ビルド方法は，githubのリポジトリのドキュメントに書いてありま
Chainerを用いた対話システムの実装【seq2seq】 - Qiita
はじめに 昨今，DNNs(Deep Neural Networks)の進歩が目覚ましくあらゆる分野で成功を収めています． 良く耳にするのは，画像分類や音声認識の分野ですが，対話システムも例外ではなくなりました． Pythonのライブラリ環境が充実しつつある今，DNNsを用いた対話システムの構築について簡単に紹介したいと思います． 対話システムのためのDNNsモデル 対話システムを構築するためのDNNsのモデルは大きく分けて2つあります． 大量の応答候補に対するランキング学習 -> 入力に対して応答候補文をそのまま選択 発話と応答のペアから，Encoder-Decoderモデルを学習．-> 入力に対して単語単位で応答発話生成 本記事では，後者のEncoder-Decoderモデルについて扱います． Chainerなどのライブラリが充実したおかげで，発話と応答のペアとなるデータさえあれば，誰で
【 調査 】オフライン（GPS利用不能）環境下での位置検出技術 INS（慣性航法）における deep neural network 活用事例 - Qiita
（ 調査中 ） INSとは？ Wikipedia 「慣性航法装置」 慣性航法装置（かんせいこうほうそうち、英: Inertial Navigation System, INS）は、潜水艦、航空機やミサイルなどに搭載される装置で、外部から電波による支援を得ることなく、搭載するセンサ（慣性計測装置、英: Inertial Measurement Unit, IMU、Inertial Navigation Unit; INU, Inertial Guidance Unit; IGU, Inertial Reference Unit; IRUなども使用される）のみによって自らの位置や速度を算出する。 慣性誘導装置（英: Inertial Guidance System, IGS）、慣性基準装置（英: Inertial Reference System, IRS）などとも呼ばれる。 INS実現技術に
Deep learning with C++ - an introduction to tiny-dnn
1. tiny-dnn is a header-only deep learning framework for C++ that aims to be easy to introduce, have simple syntax, and support extensible backends. 2. It allows defining neural networks concisely using modern C++ features and supports common network types like MLPs and CNNs through simple syntax similar to Keras and TensorFlow. 3. The framework has optional performance-oriented backends like AVX
TensorFlowでDNNをスクラッチするためのオレオレチュートリアル - 終末 A.I.
はじめに Chainer もなんとなしに慣れてきたので（使いこなせているレベルではありませんが）、他のDNN Framework も触ってみようと思いたち、昨日からTensorFlowをいじってみています。 最終的なアウトプットは同じなので、クラス構造などが結構似通っていて、思ったより学習コストが低かったのですが、一点苦戦したのがTensorFlowのチュートリアルの微妙さです。 Deep MNIST for Experts → とりあえず導入 TensorFlow Mechanics 101 → 基本要素の説明 以上...！ といった感じで、普通のDNNはどう書いたらいいの？な質問に答えてくれるのにぴったりなコンテンツが残念ながらありません。 Easy ML with tf.contrib.learn あたりが求めているものに近いのですが、tf.contrib.learn という3分クッ
Introducing DeepText: Facebook’s text understanding engine
Text is a prevalent form of communication on Facebook. Understanding the various ways text is used on Facebook can help us improve people's experiences with our products, whether we're surfacing more of the content that people want to see or filtering out undesirable content like spam. With this goal in mind, we built DeepText, a deep learning-based text understanding engine that can understand wi
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
