Best Research articles on Deep Learning for Text classification (2015–2016)
Text classification finds application in many tasks such as Sentence classification, document classification, sentiment analysis etc. When I initially started looking for research articles on Text classification using Deep Neural networks, I found it difficult to find the recent best articles. After a considerable time and effort, I was able to summarize the research articles one would need to get
RNNでプログラミング言語の構文エラーを自動修復する衝撃
コンパイルエラーの問題点 DeepFix Iterative Repair まとめ 参考文献 プログラミング言語のコンパイルエラーを自動で検知して修復することができたら、プログラマの作業時間を減らせる可能性があります。もしくは、テキストエディタがプログラムを書いている最中に、エラーだろうと思われる構文を見つけたときにさり気なく教えてくれたら生産性が著しく向上することも考えられます。 “Software is eating the world.“という言葉は、マーク・アンドリーセンの提唱した言葉です。まだまだ「食い尽くす」ほどではないものの、徐々にその影響力は高まっていると感じます。ソフトウェアを開発する必要性が増すにつれて、ソフトウェアエンジニアも次第に求められていくことでしょう。そして、そのプログラマの仕事の大部分はデバッグに費やされます。 バグや構文エラーを自動検知するシステムがテキス
Robust Visual Tracking With Deep Convolutional Neural Network Based Object Proposals on PETS
Robust Visual Tracking with Deep Convolutional Neural Network based Object Proposals on PETS Gao Zhu1 Fatih Porikli1,2,3 Hongdong Li1,3 Australian National University1 , NICTA2 ARC Centre of Excellence for Robotic Vision3 {gao.zhu,fatih.porikli,hongdong.li}@anu.edu.au ∗ Abstract Tracking by detection based object tracking methods en- counter numerous complications including object appear- ance cha
Deep Learning: Recurrent Batch Normalization
These are my study notes on Recurrent Batch Normalization as preparation for the Deep Learning Study Group (SF) session on April 26, 2016. These notes also contain some info from Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Recurrent Neural Networks, or RNNs, work great for many tasks. A big downside is that training these deep networks takes a sign
Blog | Paras Dahal
Breaking Deep Neural Networks with Adversarial AttacksJul 30 2019Analyzing different adversarial attacks, their effects on the representation space and potential defense mechanisms. Using Deep Neural Networks for ClusteringApr 24 2019A comprehensive introduction and discussion of important works on deep learning based clustering algorithms. Softmax and Cross Entropy LossJun 02 2017Understanding th
About AWS
Since launching in 2006, Amazon Web Services has been providing world-leading cloud technologies that help any organization and any individual build solutions to transform industries, communities, and lives for the better. As part of Amazon, we strive to be Earth’s most customer-centric company. We work backwards from our customers’ problems to provide them with cloud infrastructure that meets the
知識の島を作っていく（Deep Learning時代の生き残り方の模索、その2）
さて、全部をちゃんとわかってる訳では無いが、必要な程度はわかってる、という状態に居てそれを維持する事を考える。 定義により既に分からない事はあって、しかもそれは学ばない状態にあるが、でもこの状態を維持するにはある程度の継続的な学習が必要そうだ。 何をどう学んでいくべきだろうか？ まず理想的だが実現が困難と思っている方法として、毎回必要な事だけを必要な程度キャッチアップしていく、というのがある。 何故この方法は実現が困難なのだろう？ それは新しい話題というのは、その話題専用のしっかり書かれた教科書というのがなかなか出ない、というあたりに問題がある。 誰かが必要な事だけ分かりやすくまとめておいてくれれば、その中から自分に必要な範囲で必要な事を取り出すのはこれまでのプログラマの学習とあまり変わらない。 でも昨今のDeep Learning周辺では、必要な事だけしっかりまとめた教科書、というのが追
Deep Learning for Patient-Specific Kidney Graft Survival Analysis
An accurate model of patient-specific kidney graft survival distributions can help to improve shared-decision making in the treatment and care of patients. In this paper, we propose a deep learning method that directly models the survival function instead of estimating the hazard function to predict survival times for graft patients based on the principle of multi-task learning. By learning to joi
NVIDIA GPUが搭載されたWindows 10にTensorFlowとChainerをインストールしてDeep Learningの学習環境を構築してみる - Qiita
※以下が最新の記事です。「Windows 10にNVIDIA GPUを使用したDeep Learning環境をインストール。（CUDA10、VS2017、TensorFlow、Keras、Chainerのインストール）」 https://qiita.com/kekekekenta/items/a46a899956b1c756ddce こんにちは。今回はNVIDIAのGPUが搭載されたWindows 10にTensorFlow 1.0とChainerをインストールする手順を紹介します。 Deep Learning環境としてはUbuntuを利用したものが多くありますが、最近ではWindows 10でもこれらのフレームワークが動きます。NVIDIAのGPUが搭載されたゲーミングPCを持っていれば簡単に試すことができるようになっています。 Visual Studio 2015のインストール まずは
Normalizations in Neural Networks | yeephycho
Normalizations for the input data (normalization, equalization)In image process area, the term “normalization)” has many other names such as contrast stretching, histogram stretching or dynamic range expansion etc. If you have an 8-bit grayscale image, the minimum and maximum pixel values are 50 and 180, we can normalize this image to a larger dynamic range say 0 to 255. After normalize, the previ
Style Transfer for Anime Sketches with Enhanced Residual U-net and Auxiliary Classifier GAN
Recently, with the revolutionary neural style transferring methods, creditable paintings can be synthesized automatically from content images and style images. However, when it comes to the task of applying a painting's style to an anime sketch, these methods will just randomly colorize sketch lines as outputs and fail in the main task: specific style tranfer. In this paper, we integrated residual
About AWS
Since launching in 2006, Amazon Web Services has been providing world-leading cloud technologies that help any organization and any individual build solutions to transform industries, communities, and lives for the better. As part of Amazon, we strive to be Earth’s most customer-centric company. We work backwards from our customers’ problems to provide them with cloud infrastructure that meets the
Hyperparameter Optimization: A Spectral Approach
We give a simple, fast algorithm for hyperparameter optimization inspired by techniques from the analysis of Boolean functions. We focus on the high-dimensional regime where the canonical example is training a neural network with a large number of hyperparameters. The algorithm --- an iterative application of compressed sensing techniques for orthogonal polynomials --- requires only uniform sampli
Attention Is All You Need
The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely. Experi
Deep Learningで楽曲認識 - Qiita
様々な曲を聴かせて、そのアーティストが誰なのかを認識させようという試みです。認識部分はDeep Learningに任せます。頼んだ！ イメージとしては学習したモデルを用いて、マイクに向けて直接音楽を流して、「これはミスチルや！」という感じにリアルタイムに推定してくれるシステムを作りました。 githubに公開しました。 なお、学習時はGPUを使っていますが、学習済みモデルを使って推論させるときはGPUではなくCPUを使うコードになっていますが、別にGPUでも動きます。 （単に、推論させるときには別のPCで実行させていて、そのPCにはGPUが載っていなかったからというだけです。） https://github.com/slowsingle/music_classification 「頼んだ！」とは言いつつも... 曲の波形をそのままネットワークに学習させても、訓練誤差は縮まれど、実際に出来上
A (computational) linguistic farce in three acts
Prologue I had not blogged for 3 years. Many plausible excuses, but the big reason is that it is easier to dash a tweet or a short incidental social media post than to structure a complex argument, which uses mental resources that I need full time at work. But the argument about deep learning, natural language, publication styles and venues that Yoav Goldberg posted on Medium reminded me of someth
Apache MXNet
1.9.1 master 1.9.1 1.8.0 1.7.0 1.6.0 1.5.0 1.4.1 1.3.1 1.2.1 1.1.0 1.0.0 0.12.1 0.11.0
「ムーアの法則」終了で コンピューター業界は AI需要にどう対応するか
How AI Can Keep Accelerating After Moore’s Law 「ムーアの法則」終了で コンピューター業界は AI需要にどう対応するか 先端的な機械学習の分野では膨大なコンピューター・リソースが必要だ。「ムーアの法則」が終わった現在、コンピューターチップにも変革が求められる。 by Tom Simonite2017.06.09 165 19 9 0 5月上旬、グーグルのサンダー・ピチャイCEO（最高経営責任者）は機械学習の研究所で得られた驚異的な成果を開発者たちに発表したとき、明らかに興奮していた。新しい環境や業界に機械学習ソフトウェアを簡単に導入できるようにするために、グーグルの研究者は機械学習ソフトウェアを作成する作業の一部を自動化する方法を考え出したのだ。 しかし、このプロジェクトは、AI研究者の間ではすでに別の理由で評判になっている。機械学習の最先端で
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Implementing CNN
ChainerとPyTorchのコードを比較する - 線形回帰編 - Qiita
