はじめに こんにちは、推薦基盤部の与謝です。ECサイトにおけるユーザの購買率向上を目指し、レコメンデーションエンジンを研究・開発しています。最近ではディープラーニングが様々な分野で飛躍的な成果を収め始めています。そのため、レコメンデーション分野でも研究が進み、精度向上に貢献し始めています。本記事では、ディープニューラルネットワーク時代のレコメンド技術について紹介します。 目次 はじめに 目次 パーソナライズレコメンドとは 深層学習より前の推薦手法 協調フィルタリング Matrix Factorization SVD（Singular Value Decomposition） Factorization Machine 深層学習を使った推薦手法 ニューラルネットワーク推薦手法に対する警鐘 Recboleプロジェクト Recboleプロジェクトを用いた各アルゴリズムの検証 General Re

この記事は abicky.net の Perl 初心者がとある JavaScript コードを読むための基礎知識 に移行しました

参考： http://d.hatena.ne.jp/faith_and_brave/20100201/1264997004 「C++0xになると、C++03 でごちゃごちゃした部分がだいぶすっきり書けるようになる」 らしいですが、C++0xを待たなくてもBoostを使えばだいぶすっきり書けるので、 BoostでのC++入門はこんな感じだよー、という気持ちで以下略。 この記事はC言語をある程度理解していることが前提です。 1. Hello World C++/Boostでの出力はC++標準の IOStream ライブラリと Boost.Format を組み合わせて行います。 例として、C言語のprintfを用いた Hello World を、C++/Boostを使って書き直してみます。 #include <stdio.h> int main() { printf( "%s\n", "Hell

こんにちは。無職です。*1 毎日時間が余ってます。 そんな私ですが、時間のない人のための英語学習法を書いてみたいと思います。 それなりに長いです。 ポイントは 3 つ。 文を暗記する。 空き時間に復習する。 単語は詰め込む。 前提 まず前提として、語学学習には毎日一時間以上の学習時間が必要です。欲を言えば二時間。 なぜかというと、覚えたことはどんどん忘れるからです。 RPG で言うと、敵にちょこちょこダメージを与えても、その敵が自動回復していたらなかなか倒せないのと同じです。 まず、利用可能な時間は次のように分類できます。 本が読め、音声が聞け、声も出せる。(自宅) 音声が聞け、声が出せる。(洗濯物を畳んでいるとき、皿洗い中、慣れた道で車を運転しているとき) 本が読め、音声が聞ける。(公共交通機関) 音声が聞ける。(歩行中) 上記のどれもできない。(プール・風呂など) タイプによって、それ

この記事は abicky.net の 独立性の仮定と平均場近似の関係 に移行しました

http://www.stanford.edu/class/cs224w/handouts.html 有名人 Jure Leskovec による Stanford 大での授業．ネットワーク解析． 今日からこれを読もうかと思う．相変わらずまずは興味のあるところだけ＆流し読み．

言いたいことはタイトル． そもそもSIGKDDとはSpecial Interest Group on Knowledge Discovery and Data Miningというデータマイニングや知識獲得のトップカンファレンス．WWWについで読んでて興味が合う論文が多い． How to do good research, get it published in SIGKDD and get it cited!(pdf) 173ページあるスライドだけど良い事ばかり書いてあるし，読者を楽しませるような非常に多くの著者の実体験(成功したものだけでなく，失敗したものも)や，後半になるとダメな論文，間違っている論文，その例が大量に載っていて飽きずに読める．ただKDDに通したい人だけでなく，研究を少しでもやろうとしている人，論文を書こうとしている人，面白いことをやりたい人は必ず読むべき． 適当に面白か

英語学習エントリに触発されて、第二外国語学習エントリを書いてみようと思います。 英語とその他の外国語で、学習方法が本質的に違うということはもちろんないのですが、中高 6年間にわたって学校で勉強する英語と、基礎がほとんどない状態から始める第二外国語では、細かいところでいろいろと違いがあります。 ちなみに私自身は、これまで英語以外には中韓西伊仏独露の 7言語を学んでいます（レベルはまちまち）。この中で中韓は留学して身につけた（中国に一年留学、ルームメイトが韓国人）もので、その他は日本国内で学んだものです。 今回は、日本国内で勉強するやり方について書こうと思います。 注意事項は次の 3点です。 私が学んだ言語は、すべて日本国内で教材が豊富に手に入る「メジャー外国語*1」ですので、マイナーな外国語には適用できない部分も多いかと思います。ご了承ください。 途中で高価な教材を紹介し、それの使用を前提と

僕がプログラミングに触れた当時は、プログラミングといえば「まず C 言語」でした。それから 10 年以上が経ちました。学校の授業や企業の研修では未だに C 言語を教えているところがあるようです。関数型プログラミング言語という波が来ている 2012 年にもなって未だに C 言語をやっているというのはまるで進歩が無く残念な気もしますが、比較的多くのプログラマに浸透している共通言語を最初に教えるというのは、一方では喜ばしい事だと解釈する事もできるのかもしれません*1。まぁとにかく、本意にせよ不本意にせよ現場で プログラム初心者に C 言語を教える羽目になった 人がたくさんいて、プログラム初心者なのに C 言語を学ばざるを得なくなった 若者がたくさんいるということです。 C 言語を教えるときに避けて通れないのがポインタで、プログラム初心者が C 言語を学ぶときにやたらとつまずく人が多いのがポインタ

最終更新: 2014-12-15 説明を簡潔にするため、JavaScriptのみを例に挙げます。 なお、現在はTwitter本家から正式なライブラリが公開されているので、そちらを参考にするのがいいと思います。 https://github.com/twitter/twitter-text 以下は、私が勝手に作り上げた非公式な抽出方法です。 日本語ハッシュタグを抽出する正規表現見やすくするために改行とタブを入れています。 おおまかに説明すると、タグとして使える文字というものがあり、それがハッシュの直前に存在していないかを調べています。 また、ハッシュタグの直後に別のハッシュタグが接していないかどうかを否定先読みで調べています。 / (?:^|[^0-9A-Za-z_〃々ぁ-ゖ゛-ゞァ-ヺーヽヾ一-龥０-９Ａ-Ｚａ-ｚｦ-ﾟ]+) [#＃] ( [0-9A-Za-z_〃々ぁ-ゖ゛-ゞァ-ヺーヽ

知的作業の生産性はやり方の設計によって左右される。「数式だらけの論文を読む」というタスクも「とにかく頑張って読む」のではなく、やり方をうまく設計することで生産性向上ができるんじゃないかなぁ。そう考えて、自分を観察しながらやってみることにした。 読む論文はCRF(条件付き確率場)についての次の二つ: Lafferty: Conditional random fields: Probabilistic... - Google ScholarとSutton: An introduction to conditional random fields... - Google Scholar まずは目的の明確化。目的は達成したかどうかが客観的に計測できるものでなければならない。つまり「CRFを理解する」なんてのではダメ。「CRFを実装して学習過程を可視化した動画を作ってブログに載せる」を目標とする。

朝は荷物をフロントに預け、路面電車。荷物は会場に持って行ったほうが他の方々と一緒に帰りやすいのだが、会場の収容能力を考えると、身動きが取りにくくなる可能性が高く、断念したのであった。 朝一で [twitter:@tomo_wb] くんの発表のセッションなのだが (今回の学会は、毎日どこかのセッションで誰か学生が発表するので、全てどこか行かないといけないセッションがあった)、直前までスライドを直しているようで、最終確認。直前までスライドを直していると、練習する時間が相対的に減り、発表時間の見積もりが前後したり、質疑応答でうまく答えられなかったりするのだが、今回は月曜の練習の段階で厳しかった (他にやることがたくさんあったので、そちらに時間を使っていた) ので、逆に言うと3日間でよくここまでがんばった、という感じである。 水本智也, 坂口慶祐, 小町守, 内海慶, 河野洋志, 前澤敏之, 佐藤

ふとワクワクするようなアイディアが浮かんだ時、もし自分でwebサービスを作れたらなーって思う方も多いんじゃないでしょーか。 実際、twitterやfacebookを徘徊してても、結構頻繁に「webサービス作ってみたい☆」みたいな投稿をみかけますが、中には「何から手を付け始めれば良いか分からない！」的な迷える子羊達もちらほら。 そんなワケで、ささやかながら今まで当ブログでもいくつかの自作webサービスを公開してきて、企画からデザイン・コーディング・プログラミング・宣伝に至るまで、若輩ながら全て一人で担ってきた私の知見をご紹介したいと思います。 だいじょーぶ、やりゃーできる！ webサービスを作るための技術と知識 技術に関する最大のポイントは「全てを知る必要はあるが、全てに精通する必要は無い」、つまり「広く浅く」で良いというコト。 その中でどこかに自分の強みが持てると尚良しですが、手始めであれ

はじめに 現在よく使われていると思われる確率的言語モデルについて簡単に調べてみたのでメモ。 Ngram言語モデルとは 例えば、「お酒が飲みたい」と「バリウムが飲みたい」という文章があった時に、前者の方がよく聞く文章で、後者はほとんど聞かない文章 上記のような「文章の出やすさ」を数学的モデルで表現したい 特に確率を使って表現したい(確率的言語モデル) 単語列が与えられたとき、その単語列の生起確率は 例えば「お酒/が/飲みたい」は、P(お酒が飲みたい)=P(お酒)*P(が|お酒)*P(飲みたい|お酒が) しかし、P(単語|ながーい文章)を求めるのは実際には難しい 単語の種類がmで単語列の長さがnならば、m^n通りをすべて計算して値を推定しなければならない→無理 Ngram言語モデルは、「各単語の生起確率は、直前の(N-1)単語までのみに依存する」モデル(Markovモデル) 2gram3gra

英語で論文を書かなくてはならない研究者（たまごを含む）のために、英語論文の表現例文集がたくさん出版されている。 というのも、論文には、その構成にも言い回しにも〈定形〉がある。 自分の頭で一からひねり出すよりも、おきまりのパターンを活用した方がはやく良い結果を得られる。 普段、論文を書いていない、というか今まで書いたことがない人は、論文の書き方についてストックがないのだから、例文集から「借文」した方が効率的である。 本当は論文を書くのに先立って、他人の書いた論文をある程度読めば、そうしたパターンは自然に頭に入ってくるものである。 しかし「あるべき論」だけでは地球は回っていかない。誰もが夏休みの宿題を７月中に終わらせる訳ではないのだ。 以下、「借文」できるよう、論文に使われる表現・例文を集めてみた。 あまりボリュームがあっても使いにくいだろうから、数は絞りに絞ってある。 より多くの表現が必要な

解析結果がほぼMeCab互換のJavaおよびCommon Lispで実装された形態素解析器IgoのRuby版を作りました。 正確にはIgoのエンジン部分をRubyに移植しましたですけれども。 ソース ソースはGitHubに公開。 また、RubyGems.orgにgemを公開してあるので、インターネットに接続している環境ならRubyGemsでインストールできます。 インストール コマンドラインで下記を入力。$ gem install igo-rubyigo-rubyは、別途Igoと同じ解析用辞書ファイルが必要です。(igo-pythonと同じ方式。ただし、igo-pythonの方は辞書ファイルの生成機能も実装予定とのことです。) 解析用辞書ファイルの生成方法については、Igoのページを参照してください。 使い方 Igo::Taggerクラスのコンストラクタに辞書ファイルが入ったディレクトリを

前回Perlで書いたMultivariate Berounoulli Naive BayesをRubyで書いた．多重ハッシュがうまく動かず断念．寝て起きて手直ししたらすぐに動いた．謎．さすがRuby，見た目が綺麗（コードは汚いが）．Rubyできちんと？プログラミングするの初めてなので，思ったこと 多重ハッシュを使う際にハッシュの初期化が面倒（テクを知らないだけ？） オブジェクト指向だとどうしてもクラスキャストをしたくなる，入門書には書いてないぞ to_fしないと勝手に切り捨て．Perlに慣れていたのではまった エラーがわかりづらい コンストラクタinitializeはどう考えてもtypo量産だろう（事実すでに2回これではまった） はい，どれも自分の修行不足によるものです． Hash.new(0)のようにハッシュの初期値を決めておけるのはかなり便利だけれど，どのクラスのインスタンスなのかを意