メンヘラちゃんと学ぶディープラーニング最新論文 - ディープラーニングブログ
メンヘラちゃんがディープラーニングの最新論文をバリバリ語ってくれるシリーズです．Twitterに投稿したスライドをまとめました． サムネ画像 スライド内のテキスト抽出（検索エンジン用） メンヘラちゃんと学ぶ ディープラーニング最新論文 製作: Ryobot はじめに 作者 • Ryobot (りょぼっと) • NAIST修士2年.RIKEN AIP勤務 (2017/7~) • チャットボットの個性と多様性の研究をしています • Twitter@_Ryobot でお気に入り論文を紹介しています スライドの概要 • メンヘラちゃんが最新論文をバリバリ語ってくれます • 分野は主に自然言語処理 (機械翻訳と言語理解) です • Twitter で投稿したスライドのまとめです メンヘラちゃん • ジョイネット様制作のLINEスタンプです • 作者様がフリー素
GAN Lab: Play with Generative Adversarial Networks in Your Browser!
What is a GAN? Many machine learning systems look at some kind of complicated input (say, an image) and produce a simple output (a label like, "cat"). By contrast, the goal of a generative model is something like the opposite: take a small piece of input—perhaps a few random numbers—and produce a complex output, like an image of a realistic-looking face. A generative adversarial network (GAN) is a
論文紹介 Understanding Batch Normalization - じんべえざめのノート
今回は、NIPS2018に投稿されたUnderstanding Batch Normalizationという論文を読んだので、紹介していきたいと思います。この論文は、なぜバッチ正規化（Batch Normalization）が学習に効果的なのかを実証的なアプローチで検証した論文です。 この記事は、ニューラルネットワークの基礎（全結合層や畳み込み層）を理解している方を対象にしています。また、可能な限りバッチ正規化を知らない方でも理解できるようにしています。この記事を読み終わるころには、「なぜバッチ正規化が学習に効果的なのか」が分かるようになっています。 ニューラルネットの基礎は以下の記事で紹介しています。 ニューラルネットワーク入門 KelpNetでCNN この記事は論文を要約したものに説明を加えたものとなっています。記事内で１人称で語られている文章については、多くが論文の主張となっています
Deep Learning for Generic Object Detection: A Survey
Object detection, one of the most fundamental and challenging problems in computer vision, seeks to locate object instances from a large number of predefined categories in natural images. Deep learning techniques have emerged as a powerful strategy for learning feature representations directly from data and have led to remarkable breakthroughs in the field of generic object detection. Given this p
株式会社ALBERT（レコメンドエンジン）
データ分析から導き出されたインサイト無しにAI（人工知能）の活用は始まりません。私たちは、各業界知識とデータ・アナリティクス技術を駆使しデータドリブン経営を強力に支援します。 データ、アナリティクス、AIは企業にとって競合他社との差別化を図るかつてないほど大きな要因になっています。今日の経営幹部が効率を向上しながら新たな収益源を開拓し、新しいビジネスモデルをタイムリーに構築する方法を模索する中、価値を生み出し成長を続ける企業には「データ活用」という共通項があります。私たちは、無数のデータから企業にとって本当に必要なデータを活用するための方法を知っています。 将来を見据えたオペレーション体制を備えている企業の半数以上（52％）は、すでにデータとアナリティクスを大規模に活用しています。データとAIに関する取り組みをビジネス戦略に沿って実施することで投資利益率を迅速に最大化し、最終的にはAIをビ
論文解説 Attention Is All You Need (Transformer) - ディープラーニングブログ
こんにちは Ryobot (りょぼっと) です． 本紙は RNN や CNN を使わず Attention のみ使用したニューラル機械翻訳 Transformer を提案している． わずかな訓練で圧倒的な State-of-the-Art を達成し，華麗にタイトル回収した． また注意を非常にシンプルな数式に一般化したうえで，加法注意・内積注意・ソースターゲット注意・自己注意に分類した．このうち自己注意はかなり汎用的かつ強力な手法であり他のあらゆるニューラルネットに転用できる． WMT'14 の BLEU スコアは英仏: 41.0, 英独: 28.4 で第 1 位 Attention Is All You Need [Łukasz Kaiser et al., arXiv, 2017/06] Transformer: A Novel Neural Network Architecture f
【YOLOとSSDを使った】実践物体検出
業界で有名な３講師による実践的なディープラーニング講座です。多くのタスクにおいて必要となる物体検出をていねいに解説します。 本や入門講座などでディープラーニングを学んだもののそこから一歩進めない方に、次のステップをレクチャーします。 自分で学習データを作成し、それを用いた学習ができるようになるので、自分のビジネスへ活用が可能です。 理論面は図を用いて詳しく解説します。コーディングではTensorflowやChainerを用いますが、実際にコーディングしているところを見せながら詳しく解説します。 シェルの簡単な操作とディープラーニングの初歩的な理解を前提としています。 このコースの対象受講者:SSD・YOLOを動かしたい人、動かしたことのある人tensorflow, keras, chainer動かした人、御自身で学ぶことができる方物体検出モデルを独自のデータセットで学習したい人より実用的な
DL4US落ちたので、書籍『ゼロから作るDeeplearning②―自然言語処理編』をやるしかない - stillalive0304’s diary
ゼロつく②やるしかない...!! 「ゼロから作るDeep Learning②」とは 準備 : 無料GPUのgoogle colab上で実行する 「ゼロから作るDeep Learning②」のコード(ch01/show_spiral_dataset.py)を試しに動かす（p.41） 第1章 ニューラルネットワークの復習(P1~P55) 本章で学んだこと 第2章 自然言語と単語の分散表現(P57~P92) 自然言語処理 ①シソーラスによる手法 WordNet シソーラスの問題点 ②カウントベースの手法 カウントベースの手法の改善 ①相互情報量(PMI)の調整 ②特異値分解(SVD)による次元削減 各改善点などの実装(PTBデータセットを例に) 本章で学んだこと 第3章 Word2Vec(P93~P129) 推論ベースの手法（Word2Vec）の利点 カウントベース(SVD)の手法の問題点 推論
Deep Learningによる一般物体検出アルゴリズムの紹介 - ABEJA Tech Blog
一般物体検出アルゴリズムの紹介 今回CNNを用いた一般物体検出アルゴリズムの有名な論文を順を追って説明します。 コンピュータビジョンの分野において、一般物体検出とは下記の図のように、ある画像の中から定められた物体の位置とカテゴリー(クラス)を検出することを指します。 [6]より引用 Deep Learningアルゴリズムの発展によって、一般物体認識の精度は目まぐるしい勢いで進歩しております。 そこで今回はDeep Learning(CNN)を応用した、一般物体検出アルゴリズムの有名な論文を説明したいと思います。 R-CNN (Regions with CNN features) (CVPR 2014) [1] かの有名なCNNの論文[8]で、ILSVRC 2012の物体認識チャレンジで大差をつけて1位になりました。 このチャレンジでは1枚の画像が1000クラスのうちどれに属するかを推定する
SSD: Single Shot MultiBox Detector (ECCV2016)
2. 緒方 貴紀 (@conta_) CRO@ABEJA, Inc. Computer Visionとか、Machine Learning の研究開発をやっています Self Introduction 2 4. 一般物体検出の論文 • 検出速度のアルゴリズム(YOLO)より高速で、Faster R-CNNと同等の高精度 なを実現するState of the artなアルゴリズムの提案 • 比較的低解像度でも高精度に検出できる • 階層的なFeature mapと利用することで様々なスケールに対応 • アスペクト比ごとに識別器を作ることで、高い精度の検出率を達成 • シンプルなネットワーク設計によりEnd-to-Endで学習できる SSD: Single Shot MultiBox Detector 4 5. 画像から定められたクラスの物体を検出&識別するタスク Object Detecti
Categorical Reparameterization with Gumbel-Softmax [arXiv:1611.01144]
Categorical Reparameterization with Gumbel-Softmax [arXiv:1611.01144] 概要 Categorical Reparameterization with Gumbel-Softmax を読んだ Auxiliary Deep Generative Modelsに組み込んで実験した はじめに Deep Learningなどでクラス分類を行う場合、カテゴリカル分布と呼ばれる分布を用いて属するクラスの確率を求めると思います。 たとえばMNISTであれば10個のクラスを用意し、10次元の出力ベクトルをsoftmax関数に通すことでカテゴリカル分布を作ります。 上の画像はクラス数が6個の場合の分布の例です。 この分布からサンプリングを行うとクラスを得ることができます。 Deep Learningではクラスを表す変数をスカラーではなくone
Sign in - Google Accounts
Not your computer? Use a private browsing window to sign in. Learn more about using Guest mode
深層学習はガウス過程 - 作って遊ぶ機械学習。
おつかれさまです． 僕はあまり深層学習に関して記事を書くことはないのですが，ちょっと気になった論文があったので紹介します． [1711.00165] Deep Neural Networks as Gaussian Processes 論文はGoogle Brainの研究者らによるもので，NIPS2017 Bayesian Deep Learning WorkshopICLR2018にacceptされています．実は深層学習をガウス過程（Gaussian process）で構築するのはこの論文が初出ではないのですが，論文ではベイズ学習，深層学習，カーネル法を簡略かつ包括的に説明している内容になっているので非常に参考になります． さて，「深層学習はガウス過程」というのはちょっぴり宣伝的なタイトルにし過ぎてしまったのですが，もう少しだけ正確に論文の要点をまとめると次のようになります． 背景 単一
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Dive into Deep Learning
深層ニューラルネットワークの積分表現（Deepを定式化する数学）
最近のSingle Shot系の物体検出のアーキテクチャまとめ
Deeplearning 4 j のクイックスタートガイド - Deeplearning4j: Open-source, Distributed Deep Learning for the JVM
Deep Learning基礎講座演習コンテンツ 公開ページ