AWS Deep Learning AMI に、最適化された TensorFlow 1.7 が追加され、Amazon EC2 C5 および P3 での高速トレーニングが可能に
Ubuntu および Amazon Linux 用の AWS Deep Learning AMI に、TensorFlow 1.7 に合わせた高度な最適化が提供され、Amazon EC2 C5 および P3 インスタンス全体で高性能なトレーニングを提供できるようになりました。 CPU ベースのトレーニングシナリオの場合、AMI には、ベクトルおよび浮動小数点計算を高速化するためにインテルの Advanced Vector Instructions (AVX)、SSE、FMA 命令セットで構築された TensorFlow 1.7 が含まれています。また、Intel Xeon Platinum プロセッサで動作する Amazon EC2 C5 インスタンスでのニューラルネットワークトレーニングで使用される数学ルーチンを高速化するため、AMI はインテルの MKL-DNN でも完全に設定されてい
実践 Deep Learning
2000年代にニューラルネットワークの研究が再び活発になりました。現在、ディープラーニングは近代的な機械学習の道を切り開いている非常に活発な研究領域となっています。Google、Microsoft、Facebookなどの企業では、社内のディープラーニングチームが急成長しています。しかし、多くの人にとってディープラーニングはまだまだとても複雑で困難な課題です。本書ではサンプルのPython 3プログラムと簡潔な説明を通してこの複雑な分野の主要な概念を紹介します。微積分、行列演算、Pythonの基礎があれば誰でも本書を始めることができます。 監訳者まえがき まえがき 1章 ニューラルネットワーク 1.1 知的な機械を作るということ 1.2 従来のプログラムの限界 1.3 機械学習のしくみ 1.4 ニューロン 1.5 線形パーセプトロンをニューロンとして表現する 1.6 フィードフォワードニュー
Lessons Learned Reproducing a Deep Reinforcement Learning Paper
There are a lot of neat things going on in deep reinforcement learning. One of the coolest things from last year was OpenAI and DeepMind’s work on training an agent using feedback from a human rather than a classical reward signal. There’s a great blog post about it at Learning from Human Preferences, and the original paper is at Deep Reinforcement Learning from Human Preferences. Learn some deep
ReBNet: Residual Binarized Neural Network
This paper proposes ReBNet, an end-to-end framework for training reconfigurable binary neural networks on software and developing efficient accelerators for execution on FPGA. Binary neural networks offer an intriguing opportunity for deploying large-scale deep learning models on resource-constrained devices. Binarization reduces the memory footprint and replaces the power-hungry matrix-multiplica
Linux Foundation、機械学習をアプリケーションに簡単に組み込めるオープンソース「Acumos AI」発表。新団体「LF Deep Learning Foundation」が開発
Linux Foundation、機械学習をアプリケーションに簡単に組み込めるオープンソース「Acumos AI」発表。新団体「LF Deep Learning Foundation」が開発 Acumos AIプロジェクトはおもに「Acumosフレームワーク」と「Acumosマーケットプレイス」から構成され、これらによってAIや機械学習の開発、利用、共有という3つのメリットをもたらすとしています。 以下はAcumos AIプロジェクトのブログに投稿された記事「What is Acumos? - Acumos」から。 Acumosは、AIモデルの開発者に対しては容易な開発とパッケージングを実現するソフトウェアだと説明されています。 For creators of AI models – data scientists and others – Acumos empowers them to
AWS Summit 2018 San Franciscoで発表されたサービスやアップデートのまとめ | DevelopersIO
2018年4月4日(水)に開催されたAWS Summit 2018 San Franciscoで、多くのサービスやアップデートに関する発表がありました。 当ブログもAWSの記事で賑わっていますが、今回はそれらを簡単にまとめてみたいと思います。 新しく発表されたサービス AWS Secrets Manager: Store, Distribute, and Rotate Credentials Securely ライフサイクルを通じてデータベース認証情報、API キー、その他のシークレットを簡単に更新、管理、取得します。基盤技術の低レベルな KMS や特定用途に特化した AWS Systems Manager Parameter Store のようなサービスはありましたが、より汎用的な秘密管理サービスです。 AWS Secrets Managerは、アプリケーション、サービス、ITリソースへ
Hyper-parameters in action!
IntroductionThis is the first of a series of posts aiming at presenting visually, in a clear and concise way, some of the fundamental moving parts of training a neural network: the hyper-parameters. MotivationDeep Learning is all about hyper-parameters! Maybe this is an exaggeration, but having a sound understanding of the effects of different hyper-parameters on training a deep neural network is
深層学習のモデル圧縮・高速化に関する論文80本ノック - そうだね
こんにちは.無事に3年生に進級できてホッとしています. 昨年度から深層学習のモデル改変による高速化手法について調べていました.そんなわけで本稿では深層学習モデルのパラメータ容量の削減や高速化を目的とした手法に関する論文を80本紹介します. 一部, ハイパーパラメータ探索(Neural Architecture Search等)の論文を「高速なモデルの探索に使えないかな〜」というきもちで含めました. また, 蒸留に関する論文は必ずしも高速化を狙ったものだけではなく, 蒸留そのものの派生論文についても含めています. 全ての論文について詳解ではなく雑な概要のみ記載しています. サーベイする際のガイドにでも使っていただければ幸いです. サクッと読んだだけの論文も多々ありますので間違い等ございましたらご指摘ください. では参りましょう. 高速なモデルアーキテクチャ より良い速度と精度のトレードオフを
The Linux Foundationとオープン ソース コミュニティ メンバーがLF Deep Learningを発足 － AI分野のオープン ソース成長推進をめざす - The Linux Foundation
The Linux Foundationとオープン ソース コミュニティ メンバーがLF Deep Learningを発足 － AI分野のオープン ソース成長推進をめざす Amdocs、AT&T、B.Yond、Baidu、Huawei、Nokia、Tech Mahindra、Tencent、Univa、ZTEがディープ ラーニング、人工知能、マシン ラーニングの導入加速で協力 2018年3月26日、ロサンゼルス (Open Networking Summit) 発 － The Linux Foundationは本日、新たな傘下プロジェクトLF Deep Learning Foundationを発足しました。同プロジェクトは、人工知能、マシン ラーニング、およびディープ ラーニングにおけるオープン ソース イノベーションを支援・維持し、これらのクリティカルな新技術を開発者やデータ サイエンテ
Learning Strict Identity Mappings in Deep Residual Networks
A family of super deep networks, referred to as residual networks or ResNet, achieved record-beating performance in various visual tasks such as image recognition, object detection, and semantic segmentation. The ability to train very deep networks naturally pushed the researchers to use enormous resources to achieve the best performance. Consequently, in many applications super deep residual netw
コピペから脱却して自由に Deep Learning するための TensorFlow 再入門 - Qiita
はじめに TensorFlow はなかなかとっつきにくい部分があるかと思います。書き方が独特なので、慣れるまでに時間がかかるかと思います。公式の MNIST は一通りやったけど、自分で考えたディープニューラルネットワーク (DNN) をどう書いたらいいかわからない……なんてこともあるのではないでしょうか。 この記事では、シンプルな問題を題材にして、 TensorFlow をコピペに頼らず、自分の書きたい DNN を 低レベル API を使ってどのように書くかを最小構成で説明していきます（今さら感はありますが。。）。ベースは公式ドキュメントの Low Level APIs のあたり です。 内容としては： TensorFlow の最小構成要素 TensorFlow で線形関数のフィッティング TensorFlow で DNN を実装 のようになっています。また、以下のような方を対象としており
機械学習の勉強歴が半年の初心者が、 Kaggle で銅メダルを取得した話 - 株式会社G-gen（ジージェン）
ホーム お役立ち テック全般 機械学習の勉強歴が半年の初心者が、 Kaggle で銅メダルを取得した話 機械学習の勉強歴が半年の初心者が、 Kaggle で銅メダルを取得した話 R&D 事業部所属のデータサイエンティスト・機械学習エンジニア見習い（機械学習の勉強歴 約半年）が、 Kaggle の銅メダル*を獲得した手法を、解説していきます。 * 順位は4551人中356位でした 想定する読者 Kaggle ？ なにそれ、おいしいの？ Kaggle の順位が中間以下で、上位入賞するコツを知りたい 機械学習に多少でも触れたことはある 上記に合う人が対象です。 Kaggle 上位ランカー、普段からデータ分析業務に従事されている方にはちょっと物足りないかもしれません。 Kaggle とは Kaggle (カグル)は、世界中の機械学習・データサイエンスに携わっている人が、データ分析力や機械学習のモデ
速報取材レポート！第2回 AI・人工知能 EXPO （2nd AI EXPO ） | Apérza News（アペルザニュース） | ものづくり産業向けニュースサイト
速報取材レポート！第2回 AI・人工知能 EXPO （2nd AI EXPO ） 本日2018年4月4日から東京ビッグサイトで開幕した「第2回 AI・人工知能 EXPO（2nd AI EXPO）」。 今年は一体どんな製品やソリューションが並んだのか？ 28のブースで話を伺ってきました！ ぜひ会社への報告や情報共有などにお使いください。 今年のAI・人工知能 EXPO （2nd AI EXPO ）は…… AI・人工知能の活用が新しいステップに進んだという実感 今回のAI・人工知能Expoの展示内容は、実用的な内容（ユースケースなど）、プラットフォーマーとサービスプロバイダーの連携の成果など、AI・人工知能の活用が新しいステップに進んだという実感がありました。また、来場者と出展者の会話を漏れ聞くと、具体的な課題に関するものが多かったように見受けられました。 音声・テキストなどの人間の言葉を理解
[TensorFlowチュートリアル] A Guide to TF Layers: Building a Convolutional Neural Network [日本語翻訳] - Qiita
from __future__ import absolute_import from __future__ import division from __future__ import print_function # Imports import numpy as np import tensorflow as tf tf.logging.set_verbosity(tf.logging.INFO) # Our application logic will be added here if __name__ == "__main__": tf.app.run() このチュートリアルでは、Convolutionalニューラルネットワークを構築、学習、評価するためのコードを追加していきます。 完成コードはここにあります。 Intro to Convolutional Neural Netw
![[TensorFlowチュートリアル] A Guide to TF Layers: Building a Convolutional Neural Network [日本語翻訳] - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/a7ff85bd8e6394192981df271e1f4c1f9e61323c/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fqiita-user-contents.imgix.net%252Fhttps%25253A%25252F%25252Fcdn.qiita.com%25252Fassets%25252Fpublic%25252Farticle-ogp-background-afbab5eb44e0b055cce1258705637a91.png%253Fixlib%253Drb-4.0.0%2526w%253D1200%2526blend64%253DaHR0cHM6Ly9xaWl0YS11c2VyLXByb2ZpbGUtaW1hZ2VzLmltZ2l4Lm5ldC9odHRwcyUzQSUyRiUyRnFpaXRhLWltYWdlLXN0b3JlLnMzLmFtYXpvbmF3cy5jb20lMkYwJTJGMTk1MTYlMkZwcm9maWxlLWltYWdlcyUyRjE0NzM2ODI3MzY_aXhsaWI9cmItNC4wLjAmYXI9MSUzQTEmZml0PWNyb3AmbWFzaz1lbGxpcHNlJmZtPXBuZzMyJnM9OGViODc4ZDU3NmRhYWRlZTdlMTg0NzZhYTQzNWJkNTQ%2526blend-x%253D120%2526blend-y%253D467%2526blend-w%253D82%2526blend-h%253D82%2526blend-mode%253Dnormal%2526s%253D86abd4a9e5d1fc60bcc89910c7439957%3Fixlib%3Drb-4.0.0%26w%3D1200%26fm%3Djpg%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk2MCZoPTMyNCZ0eHQ9JTVCVGVuc29yRmxvdyVFMyU4MyU4MSVFMyU4MyVBNSVFMyU4MyVCQyVFMyU4MyU4OCVFMyU4MyVBQSVFMyU4MiVBMiVFMyU4MyVBQiU1RCUyMEElMjBHdWlkZSUyMHRvJTIwVEYlMjBMYXllcnMlM0ElMjBCdWlsZGluZyUyMGElMjBDb252b2x1dGlvbmFsJTIwTmV1cmFsJTIwTmV0d29yayUyMCU1QiVFMiU4MCVBNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzMUUyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1wYWQ9MCZzPTU5ZjFhMmFhZmRjYmU2ODg3MjZhZjgyOGJkMmM3YWMw%26mark-x%3D120%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTgzOCZoPTU4JnR4dD0lNDB0a2luam8xJnR4dC1jb2xvcj0lMjMxRTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LXBhZD0wJnM9N2I3OWMwZjE3MjRhZWQ4OTMxYTY5NDM3MWY5MjI4OTc%26blend-x%3D242%26blend-y%3D480%26blend-w%3D838%26blend-h%3D46%26blend-fit%3Dcrop%26blend-crop%3Dleft%252Cbottom%26blend-mode%3Dnormal%26s%3D78493647a494e6a67044b6375a1f12e8)
機械学習で乃木坂46メンバーの誰に似ているかを判定する簡易Webアプリケーションを作った一連の流れ - Qiita
はじめに 乃木坂46の一部メンバーの顔画像を機械学習に掛けて作成した学習済みモデルを利用して、ユーザーが顔画像をアップすると誰に似ているかを判定してくれる一連のWebアプリケーションを作りました。 大学の春休みで暇を持て余していたので作ったのですが、思ったより時間がかかり1ヶ月半ほどの製作期間になりました。 僕は雰囲気でDeepLearningに触れた程度の初学者なので、同じくらいの方向けに、機械学習からWebアプリケーションまで落とし込む一連の"流れ"の参考になればと思い、書かせて頂きます。ちなみにググりまくってゴリ押しで作ったので、スマートでない所あるかと思いますが、ご了承ください。 Web上に少ない情報は詳しめに書きますが、原則まとめ的に書くので詳細が知りたい方は各種リンクを参考に。 完成品（1ヶ月後はリンク切れしてるかも）: http://www.nogidare.net ソースコ
ディープラーニングの限界 | POSTD
(注：2017/04/08、いただいたフィードバックを元に翻訳を修正いたしました。 @liaoyuanw ) この記事は、私の著書 『Deep Learning with Python（Pythonを使ったディープラーニング）』 （Manning Publications刊)の第9章2部を編集したものです。現状のディープラーニングの限界とその将来に関する2つのシリーズ記事の一部です。 既にディープラーニングに深く親しんでいる人を対象にしています（例：著書の1章から8章を読んだ人）。読者に相当の予備知識があるものと想定して書かれたものです。 ディープラーニング： 幾何学的観察 ディープラーニングに関して何より驚かされるのは、そのシンプルさです。10年前は、機械認識の問題において、勾配降下法で訓練したシンプルなパラメトリックモデルを使い、これほど見事な結果に到達するなど誰も想像しませんでした。
日本ディープラーニング協会、ディープラーニングエンジニアを認定するE資格「JDLA Deep Learning for ENGINEER 2018」の試験を9月29日に実施
日本ディープラーニング協会（JDLA：Japan Deep Learning Association）は、ディープラーニングを実装するエンジニアの技能を認定するE資格（エンジニア資格）「JDLA Deep Learning for ENGINEER 2018」試験を、9月29日に東京、大阪にて実施する。 「JDLA Deep Learning for ENGINEER 2018」の受験にはJDLA認定プログラムの修了が必要で、シラバスよりJDLA認定プログラム修了レベルの、フレームワークやライブラリに依存しない問題が出題される。受験料は税込で32400円の予定で、8月より申し込みを受け付ける。 JDLA認定プログラムとしては、スキルアップAIによる「現場で使えるディープラーニング基礎講座」、zero to oneによる「機械学習オンライン／ディープラーニングオンライン」、ナトフによる「現場
データサイエンティストを目指して勉強した1年間まとめ - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 本記事では、データサイエンスについて学んだこと、データ分析業務に携わって、経験したこと、気付いたことをまとめています。特に、後半を中心にまとめています。前半についてはこちらの「データサイエンティストを目指して半年で学んだことまとめ」に書いています。ご興味があれば、読んでいただければと思います。 全ては**ビジョン（あるべき/ありたい姿）**を明確にしてから始まる データ分析で最も重要になるのが、ビジョン（あるべき/ありたい姿）の明確度にあると感じています。ビジョンが明確であるほど、課題・目的も明確に設定でき、課題解決のための仮
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - glouw/tinn: A tiny neural network library
http://jhyu.me/posts/2018/01/20/generative-inpainting.html