機械学習の解釈性とパフォーマンスの両立を目指して：Human-in-the-Loop Interpretability Prior | 10001 ideas
Generative Adversarial Nets from a Density Ratio Estimation Perspective
Generative adversarial networks (GANs) are successful deep generative models. GANs are based on a two-player minimax game. However, the objective function derived in the original motivation is changed to obtain stronger gradients when learning the generator. We propose a novel algorithm that repeats the density ratio estimation and f-divergence minimization. Our algorithm offers a new perspective
Bayesian Variable Selection Under High-dimensional Settings With Grouped Covariates
Consider the normal linear regression setup when the number of covariates p is much larger than the sample size n, and the covariates form correlated groups. The response variable y is not related to an entire group of covariates in all or none basis, rather the sparsity assumption persists within and between groups. We extend the traditional g-prior setup to this framework. Variable selection con
ICML2016読み会 - 資料一覧 - connpass
終了 2016/07/21（木） 14:00〜 ICML2016読み会 2016年7月にニューヨークで開催された機械学習の国際学会ICML2016の勉強会です delta2323 他 東京都中央区築地１丁目１３−１ (銀座松竹スクエア)
10 Papers from ICML and CVPR
The International Conference on Machine Learning (ICML) and Computer Vision and Pattern Recognition (CVPR) 2016 occurred back-to-back this year. In this post, I’ll cover some of the most exciting advances in research as experienced from an on-the-ground perspective. Unsurprisingly, ICML focused more on fundamental research in an intimate setting while CVPR focused on applications research. Both in
Semi-Supervised Learning with Deep Generative Models
The ever-increasing size of modern data sets combined with the difficulty of obtaining label information has made semi-supervised learning one of the problems of significant practical importance in modern data analysis. We revisit the approach to semi-supervised learning with generative models and develop new models that allow for effective generalisation from small labelled data sets to large unl
Quantum Nearest-Neighbor Algorithms for Machine Learning - Microsoft Research
We present several quantum algorithms for performing nearest-neighbor learning. At the core of our algorithms are fast and coherent quantum methods for computing distance metrics such as the inner product and Euclidean distance. We prove upper bounds on the number of queries to the input data required to compute these metrics. In the worst case, our quantum algorithms lead to polynomial reductions
Fast Second-Order Stochastic Backpropagation for Variational Inference
We propose a second-order (Hessian or Hessian-free) based optimization method for variational inference inspired by Gaussian backpropagation, and argue that quasi-Newton optimization can be developed as well. This is accomplished by generalizing the gradient computation in stochastic backpropagation via a reparametrization trick with lower complexity. As an illustrative example, we apply this appr
異種混合学習に関する簡単なまとめ - 糞糞糞ネット弁慶
デジタルトランスフォーメーションを加速する最先端AI技術群「NEC the WISE」: 最先端AI技術群 ～NEC the WISE～ | NEC 2012年頃から話題になっている，NECが提唱する異種混合学習とは一体何なのか，ということが気になって簡単に調べた． 以下の記述は，自分の理解に基づいていること，学習理論については詳しくないことを断っておく． 概要 異種混合学習技術は多種多様なデータに混在するデータ同士の関連性から、特定の規則性を自動で発見するとともに、分析するデータに応じて参照する規則を切り替えます。これにより、“単一の規則性のみを発見して、それを参照するような従来の機械学習”では分析が困難であった「規則性が変化するデータ」でも高精度な予測や異常検出が可能になります。 デジタルトランスフォーメーションを加速する最先端AI技術群「NEC the WISE」: 最先端AI技術群
Neural Network with Unbounded Activation Functions is Universal Approximator
This paper presents an investigation of the approximation property of neural networks with unbounded activation functions, such as the rectified linear unit (ReLU), which is the new de-facto standard of deep learning. The ReLU network can be analyzed by the ridgelet transform with respect to Lizorkin distributions. By showing three reconstruction formulas by using the Fourier slice theorem, the Ra
Online Chinese Restaurant Process (Liu et al., KDD 2014) メモランダム - 銀座で働くデータサイエンティストのブログ
先週のうちのチームの論文輪読会でこの論文を読んだので、その時用いた資料を一部改訂して上げておきます。いつも通り炎上ラーニング大歓迎*1なので、おかしなところがあったらどんどん突っ込んで下さると有難いです。 Online chinese restaurant process - ACM Digital Library 何とビデオレクチャーということで、去年のNYCでのKDDの本番トークそのものがまんま収録されて公開されてるんですね～。ということで論文読みながら*2このトークを改めて聴くのも良いかも。 0 全体要約 読んで字の如し、混合ディリクレ過程(Dirichlet Process Mixture)をオンライン化しようという論文。大規模データであればあるほどクラスタリングする際にクラスタ数が事前に分かっているケースは少ないのでDPMが大事になってくるが、当然のように大規模になるほどバッチで
DeepWalk: Online Learning of Social Representations (KDD2014) 読んだ - 糞糞糞ネット弁慶
[1403.6652] DeepWalk: Online Learning of Social Representations 実装もある． DeepWalk - Online Learning of Social Representations - Bryan Perozzi's old website 概要 グラフ構造のデータから latent representation を学習する．skip-gramなどでは入力が文章集合になっているが，提案手法では random walk でそれを実現する． contributionは3つ． グラフデータを分析する手法として deep learning を適用した． マルチラベル分類タスクに提案手法を適用し精度を上げた． 並列実行可能なのでスケーラビリティもすごい． タスク グラフについて次元の特徴ベクトル集合とラベル集合が与えられた上でとの関係
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Variational Inference with Normalizing Flows
http://jamie.shotton.org/work/publications/ijcv07a.pdf
Compressed Sensing Performance Analysis via Replica Method using Bayesian framework
GitHub - robertsdionne/neural-network-papers
http://www.columbia.edu/~jwp2128/Papers/PaisleyBleiJordan2014.pdf
http://www.gatsby.ucl.ac.uk/~byron/nlds/freitas2000b.pdf
http://www.cs.toronto.edu/~jmartens/docs/HF_book_chapter.pdf
ICML Lille