Depth Creates No Bad Local Minima
In deep learning, \textit{depth}, as well as \textit{nonlinearity}, create non-convex loss surfaces. Then, does depth alone create bad local minima? In this paper, we prove that without nonlinearity, depth alone does not create bad local minima, although it induces non-convex loss surface. Using this insight, we greatly simplify a recently proposed proof to show that all of the local minima of fee
NTTコムウェア | 「Deep Learning画像認識プラットフォーム」を3月1日より販売開始～「監視・検閲」「保全・点検」「製品検査」の分野におけるAI利用を促進～
ページ内移動ナビゲーション ナビゲーションへ移動 (アクセスキー 1)1 本文へ移動 (アクセスキー 2)2 カテゴリーごとのナビゲーション・関連リンクへ移動 (アクセスキー 3)3 サイト補助説明(ご利用規約、個人情報について、サイトの使い方)のナビゲーションへ移動 (アクセスキー 4)4 2017.02.28 「Deep Learning画像認識プラットフォーム」を3月1日より販売開始 ～「監視・検閲」「保全・点検」「製品検査」の分野におけるAI利用を促進～ エヌ・ティ・ティ・コムウェア株式会社（本社：東京都港区、代表取締役社長：海野 忍、以下 NTTコムウェア）はDeep Learning（深層学習）技術を活用した画像認識プラットフォームを2017年3月1日（水）より販売開始します。このプラットフォームにより「監視・検閲」「保全・点検」「製品検査」の分野におけるAI利用を促進していき
Deep Learning 101 - Part 1: History and Background
tl;dr: The first in a multipart series on getting started with deep learning. In this part we will cover the history of deep learning to figure out how we got here, plus some tips and tricks to stay current. The Deep Learning 101 series is a companion piece to a talk given as part of the Department of Biomedical Informatics @ Harvard Medical School ‘Open Insights’ series. Slides for the talk are a
【人工知能初心者向け】機械学習・Deep Learningプログラミング学習の道筋と参考書籍 - Qiita
【更新】 ※少々表（本のリスト）が見づらかったので変更をしました。 ※著者、出版社については、リンク先のAmazonでご確認ください。 はじめに 今回は私が人工知能プログラミングを学習する際に参考にした書籍と、 そのスキル習得の道筋を上記フローと共に振り返りメモとして残します。 現在私は競馬予想・AIがゲームをプレイするプログラムを作成しています。 これから人工知能の領域に一歩踏み出そうという方に少しでも本Qiitaが役立てば幸いです。 今回具体的にプログラムの説明はしないので、 人工知能プログラム自体に興味のある方は本Qiitaの最後にリンクを載せているので参照してください。 前提 今回選択した書籍は私が読んだものの中でも比較的易しめで、 可能な限りプログラムが添付されているものを選択しました。 なぜなら、プログラムを実装して、動かして、理解して、を繰り返すのが、 スキル習得（実装を含む
Learning Deep Nearest Neighbor Representations Using Differentiable Boundary Trees
Nearest neighbor (kNN) methods have been gaining popularity in recent years in light of advances in hardware and efficiency of algorithms. There is a plethora of methods to choose from today, each with their own advantages and disadvantages. One requirement shared between all kNN based methods is the need for a good representation and distance measure between samples. We introduce a new method cal
I miss Delphi | Hacker News
I did professional development in Delphi for 13 years, writing and maintaining a sprawling 700k line reservation system. I don't miss it much. It was a great learning experience to have to fill in all the gaps in the standard libraries by twisting and turning Pascals rigid rules into something semi-useful; writing foreign function interfaces to WinSock to get around the limitations in the provided
Deep Voice: Real-Time Neural Text-to-Speech for Production - Baidu Research
Baidu Research presents Deep Voice, a production-quality text-to-speech system constructed entirely from deep neural networks. The biggest obstacle to building such a system thus far has been the speed of audio synthesis – previous approaches have taken minutes or hours to generate only a few seconds of speech. We solve this challenge and show that we can do audio synthesis in real-time, which amo
Deep Voice: Real-time Neural Text-to-Speech
We present Deep Voice, a production-quality text-to-speech system constructed entirely from deep neural networks. Deep Voice lays the groundwork for truly end-to-end neural speech synthesis. The system comprises five major building blocks: a segmentation model for locating phoneme boundaries, a grapheme-to-phoneme conversion model, a phoneme duration prediction model, a fundamental frequency predi
Benchmarking State-of-the-Art Deep Learning Software Tools
Declaration: The runtime performance of each software tool depends not only on the hardware platform, but also on the third-party libraries and the network configuration files. Our results only reflect the performance of the tested networks with the associated configuration files and the specified third-party libraries on our testing machines, which are not necessarily the best performance that ca
On the Origin of Deep Learning
This paper is a review of the evolutionary history of deep learning models. It covers from the genesis of neural networks when associationism modeling of the brain is studied, to the models that dominate the last decade of research in deep learning like convolutional neural networks, deep belief networks, and recurrent neural networks. In addition to a review of these models, this paper primarily
【深層学習 で 多変量時系列解析】Deep Neural Network で 多変量の時系列データ を 使って、 分類予測・回帰予測する方法 - Qiita
【深層学習 で 多変量時系列解析】Deep Neural Network で 多変量の時系列データ を 使って、 分類予測・回帰予測する方法深層学習DeepLearning時系列解析statistics人工知能 （ 関連記事 ） HirofumiYashima Qiita記事 「CNN で 時系列データ の 特徴量（特徴マップ） を 畳み込み で 抽出して、 + プーリング で 情報圧縮 する 方法 いろいろ」 HirofumiYashima Qiita記事 「【 調査 】CNN（Convolution Neural Net）を 用いた 時系列データの予測タスク、分類タスク 応用事例」 （ 方法１ ） 各変数ごとに、時系列パターンの特徴ベクトル を 個別のLSTMタスク で 抽出し、各変数の時系列特徴ベクトル を 後から 統合（重み共有）して、多変量全体の時系列特徴量 を 獲得する アプロ
An Analysis of Deep Neural Network Models for Practical Applications
Since the emergence of Deep Neural Networks (DNNs) as a prominent technique in the field of computer vision, the ImageNet classification challenge has played a major role in advancing the state-of-the-art. While accuracy figures have steadily increased, the resource utilisation of winning models has not been properly taken into account. In this work, we present a comprehensive analysis of importan
The Alien Style of Deep Learning Generative Design
Source: http://www.arup.com/news/2015_05_may/11_may_3d_makeover_for_hyper-efficient_metalworkWhat happens when you have Deep Learning begin to generate your designs? The commons misconception would be that a machine’s design would look ‘mechanical’ or ‘logical’. However, what we seem to be finding is that they look very organic, in fact they look organic or like an alien biology. Take a look at so
Convolutional Neural Tensor Network Architecture for Community-based Question Answering
Convolutional Neural Tensor Network Architecture for Community-based Question Answering Xipeng Qiu and Xuanjing Huang Shanghai Key Laboratory of Data Science, Fudan University School of Computer Science, Fudan University 825 Zhangheng Road, Shanghai, China xpqiu@fudan.edu.cn, xjhuang@fudan.edu.cn Abstract Retrieving similar questions is very important in community-based question answering. A major
O'REILLY『ゼロから作るDeep Learning』3章MNIST画像が表示されなかったので改造した on Windows10 - しいたげられた🍄しいたけ
またヘンなものを勉強中である。ヘンというのは「またどうせ私にゃモノにならないであろうもの」という意味で、勉強の対象がヘンという意味ではない。 例によって対象がミニマムなので、新着に表示されにくくするため日付をさかのぼって公開しています。自分用のメモと、もし同様のトラブルに悩まされている人が検索で見に来たら、ヒントになればという意図での公開です。つかむしろ「ナニ間違ったことやっとんじゃいボケ！」とお気づきの方がいたら、ぜひご教示願います。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (11件) を見る プラットフォームは Windows10。Python 3 系をインストールして、GIT HUB よ
O'REILLY『ゼロから作るDeep Learning』「3.6.3 バッチ処理」を動かすための前処理 on Windows10 - しいたげられた🍄しいたけ
忘れちゃうんで自分用メモ。これが正しいかどうかは、わからない。「何やっとんじゃいボケ！」とお気づきの方がいたら、ぜひご指摘願います。今回も対象は『ゼロから作るDeep Learning』の読者だけなので、新着に表示されにくくするため日付をさかのぼって公開しています。 ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 作者: 斎藤康毅 出版社/メーカー: オライリージャパン 発売日: 2016/09/24 メディア: 単行本（ソフトカバー） この商品を含むブログ (11件) を見る 「3.6.3 バッチ処理」のP78と80のコードは、いきなり対話モードのプロンプトから入力すると、エラーになる。それは事前に予想できた。未定義の関数を使うことになるからだ。 P78 のコードを入力して、エラーを表示させた様子を下記に示す。Anaconda Prompt か
配牌からアガれるかアガれないか予測する - Qiita
はじめに 趣旨 個人的にディープラーニングや機械学習を学習したいと思い、O'Reilly Japanさんから出版されているゼロから作るDeep Learningを読みました。 しかし、私自身に知識がなく、いまいちピンとこなかったので、簡単なものを作ってみようと考えました。 とはいえ、せっかくなら自分の趣味でもある麻雀に関わるところで作ろうと考えました。 筆者のスペック Python、機械学習ともに初心者 普段はPHPやRubyを使ったWebのお仕事 環境 Python 3.6.0 bottle 0.12.13 heroku 機能概要 作成したアプリは下記になります。 https://python-mahjang.herokuapp.com/index また、ソースコードは下記になります。 https://github.com/naoki85/python_mahjong 配牌と結果のみを学
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NTTコムウェア、AIを用いて専門家の“目”を代替する「Deep Learning画像認識プラットフォーム」
Giltのディープラーニング応用
GitHub - vladfi1/phillip: The SSBM "Phillip" AI.
