グループドデータの非負値行列因子分解 - 廿TT
モチベーション たとえばこういう表がある。 gist.github.com 表の左のほうにユーザー層の情報、右の方にユーザー層ごとのブログへのアクセス経路が書かれている。 どのユーザー層がどの経路を好むか知りたいとする。 そこでトピックモデルとしてポアソン分布を使った非負値行列因子分解を考える。 （トピックモデルシリーズ 6 GaP （Gamma-Poisson Model） - StatModeling Memorandum などを参照。） ユーザー層が文書、アクセス経路が単語に対応する。 ユーザー層の情報を捨てて、行列を分解してしまうのはおもしろくない。 ユーザー層の情報を説明変数として、ユーザー層ごとにトピックの構成が変わるようなモデルにしたい。 モデル 観測値を行列の積 で近似することを目指します。 Y: 観測された分解したい行列(N行K列) X: 観測された説明変数(N行J列)
LDAとそれでニュース記事レコメンドを作った。 - tdualのブログ
筆不精なのでこのブログも放置気味だったのですが、まあ流石にそろそろ少しずつでも今まで貯めた込んだものを書き残した方が良い気がしてきた。 なので、これからなんか書いていきます。 最初はDeep Learningの記事にしようとも思ったけど、社内勉強会でLDAをまとめてたのを思い出したのでまずはこれから書こうと思います。 注意書き 理論 1.LDAの前に「トピックモデル」とは 2.LDAとは*2 3.LDAで使う確率分布 カテゴリカル分布（マルチヌーイ分布） Dirichlet(ディリクレ)分布 4.確率的生成モデル 5.グラフィカルモデル表現 6.LDAの解釈 7.経験ベイズ(Empirical Bayes) 8.変分ベイズ法(Variational Bayesian methods) 9.平均場近似(Mean field approximation) 10.変分下限とKullback-Le
RCOアドテク部論文輪読会：「Collaborative Topic Modeling for Recommending Scientific Articles」を紹介しました - RCO アドテクLabブログ | RCO アドテクLabブログ
RCO アドテクLabブログ 八重洲で働く株式会社リクルートコミュニケーションズの社内エンジニアがアドテクノロジーを始め、様々な分野のテクノロジーについて書いています 2016/06/03 stakaya データ分析 筋トレに忙しい高柳です。 Recruit Institute of Technology Inc.のアドバイザーであるColumbia UniversityのDAVID M. BLEI教授の講演を聞く機会があり、教授がその講演の中で触れていた論文を読んでみました。内容は”協調フィルタリング ＋ トピックモデリング(LDA)で、ユーザが興味を持ちそうな科学系論文をレコメンデーションする”というものでした。 協調フィルタリングではうまくレコメンデーションできないケースを、その論文の内容自身をLDAを用いて分析することで、協調フィルタリングと組み合わせてレコメンデーションに活かすと
Sentence Level Recurrent Topic Model: Letting Topics Speak for Themselves
We propose Sentence Level Recurrent Topic Model (SLRTM), a new topic model that assumes the generation of each word within a sentence to depend on both the topic of the sentence and the whole history of its preceding words in the sentence. Different from conventional topic models that largely ignore the sequential order of words or their topic coherence, SLRTM gives full characterization to them b
Topic Coherence To Evaluate Topic Models · Quentin Pleplé
Topic Coherence To Evaluate Topic Models May 16th, 2013 Human judgment not being correlated to perplexity (or likelihood of unseen documents) is the motivation for more work trying to model the human judgment. This is by itself a hard task as human judgment is not clearly defined; for example, two experts can disagree on the usefulness of a topic. One can classify the methods addressing this probl
LDA のパープレキシティを使うとき - 木曜不足
NLP2012 のポスター発表にて、LDA の文字を見かけるたびに思わずフラフラ〜と近寄り、あーだこーだ無責任なことを述べていたら、決まって「 shuyo さんですよね？」 なんでも、お茶の水大の小林先生の研究室の学生さんはみなさん揃って（かな？）トピックモデルをなにがしか絡めて研究されており、このブログの LDA ネタを参照していただけているという。なんとも有り難いというか照れくさいというか。 なにがしかのお役に立てているのはもちろん嬉しい反面、n_shuyo は言語処理も機械学習も専門家ではないので、ここに書いてあることを鵜呑みにはしないでいただくことはやっぱりお願いしておかなければ。 というわけで、不足や間違いの指摘は絶賛大歓迎＞読者各位 で、ここまで前振り。 そうしたポスターの発表を拝見させていただいていた中で、パープレキシティ周りの扱いがちょっと気になったので、少し思うところをま
Home | Linguistic Data Consortium
Human language technologies require large amounts of data to train, develop and test models and systems. There is a direct relationship between data quality and system effectiveness, that is, good data makes good systems. LDC ensures that the community has access to high-quality data sets through effective data management practices that cover such matters as accessibility, usability, curation and
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
An Automatic Approach for Document-level Topic Model Evaluation
[PDF]Hinton (2002) Training Products of Experts by Minimizing Contrastive Divergence
xiangze on Twitter: "形だけの進捗 https://t.co/LLFwLr6rQr https://t.co/8YXTE44enz"
[PDF]Lau(2010) Best Topic Word Selection for Topic Labelling
[PDF]O'Callaghan+(2015) An Analysis of the Coherence of Descriptors in Topic Modeling
[PDF]Aletras+(2013) Evaluating Topic Coherence Using Distributional Semantics
[PDF]Lau(2014) Machine Reading Tea Leaves: Automatically Evaluating Topic Coherence and Topic Model Quality
[PDF]Chang(2009) Reading Tea Leaves: How Humans Interpret Topic Models
Topic Models Conditioned on Arbitrary Features with Dirichlet-multinomial Regression
[PDF]Mimno(2011) Optimizing Semantic Coherence in Topic Models
[PDF]Lau(2011) Automatic Labelling of Topic Models
[PDF]Newman(2010) Automatic Evaluation of Topic Coherence
Topic extraction with Non-negative Matrix Factorization and Latent Dirichlet Allocation — scikit-learn 0.17 documentation