An Empirical Evaluation of Supervised Learning in High Dimensions - がくしゅう日記
文献Rich Caruana, Nikos Karampatziakis, Ainur YessenalinaICML2008,2013/05/23 読了STATLOGプロジェクトで色々なデータに対する色々な判別・回帰手法の性能が評価された．その後もSTATLOGプロジェクト以降に流行った手法を用いた評価は続けられたが，いずれにせよ最近は高次元データを扱う必要が増えてきて，色々な手法の精度がデータ次元の増大とともにどのように振る舞うかを系統的に評価することが重要である．ということで，10個の判別手法を10くらいのデータに適用．次元は大体750次元から680000次元まで．Boosted decision treeが４０００次元くらいまでは割りとよい．高次元はやっぱりRF. 正直苦手なタイプの研究だけど大事といえば大事．特に評価方法は勉強になる．真似しろといわれるときついけど．
JabRefで管理している論文をiPadで読む - くろんの風
iPad, softwareiPadを買った目的の一つに、普段から溜め込んでいる論文をiPadで読みたい、というのがあります。今まで論文管理ソフトとして、JabRef, BibDesk, Evernote, Papersなどを試してみましたが、結局始めに使っていたJabRefに落ち着きました。やっぱりLinuxとMacのどちらでも論文を管理出来るのが良いです。参考記事は例えばこれ。Mac/Windows/Linux併用して研究する人は「JabRef+Dropbox」で論文管理するといい - ミームの死骸を待ちながら僕もDropbox+JabRefで論文管理しています。ubuntuの場合jabrefは、 $ sudo apt-get install jabref でインストール出来ます。Macの場合はちょっとひと手間必要で、JabRef on MacOSX 10.6 (Snow Leopar
研究者のワークライフバランス - study note
Nature に研究者の労働時間についての問題提起が載っている。"Work ethic: The 24/7 lab"http://www.nature.com/news/2011/110831/full/477020a.htmlhttp://www.nature.com/nature/journal/v477/n7362/full/477027a.html前者はほぼ不眠不休で働いている研究室のレポート，後者は余暇やコミュニケーションを大事にするプロジェクトディレクターの論説。両者に対する「まとめ」のコメントが，こちらhttp://www.nature.com/nature/journal/v477/n7362/full/477005b.htmlこのコメントに読者の批判が殺到。Nature はいつも読者の書き込み少ないのだが。労基法に照らせば前者の実態は明らかにマズイのだが，実際，研究者はか
並列処理 OpenMP と pthread を比較してみた - ますぽんの雑記
プログラム並列処理はいくつか方法がある。有名所を挙げれば Boost、Java、pthread、OpenMP、MPI、NSOperation、Windows Thread などなど…. その中で、OpenMP と pthread が使えるようになったので比較してみた。今回は円周率πを両手法で効率良く計算することを目指す。使用する並列化の理論の元となる数式は で、積分範囲をスレッド毎に分割することで高速化を実現する。まずは OpenMP を用いたコード #include #include #include #define F(X) 4.0L/(1.0L+(X)*(X)) #define THREAD 2 #define ITERATION 100000000 int main(int argc, char *argv[]) { long double x0, x1, h, sum =
Social IMEの共有辞書を公開しました - nokunoの日記
表題の通り，Social IMEの共有辞書を公開しました．dictionary.tar.bz2 - nokuno - Dictionary data including Social IME, Wikipedia, MS-IME - nokunoの個人リポジトリ - Google Project Hosting 実際にはSocial IMEの辞書だけでなく，Wikipediaから括弧表現をマイニングしたものや，はてなキーワードをクリーニングしたもの，MS IMEのユーザ辞書をWebからクロールするスクリプトを含んでいます．各辞書の単語数は以下のとおりです． 辞書 Social IME Wikipedia Hatena 単語数 48k 137k 235k Social IMEに登録される単語やWikipediaからのマイニングで得られる単語には，多くのノイズが含まれています．このノイズを取り
NIPS 2011で気になった論文リスト - nokunoの日記
機械学習分野のトップカンファレンスの1つ，NIPS 2011で気になった論文をまとめました．NIPS 2011 Hogwild: A Lock-Free Approach to Parallelizing Stochastic Gradient Descent Hashing Algorithms for Large-Scale Learning Bayesian Bias Mitigation for Crowdsourcing EigenNet: A Bayesian hybrid of generative and conditional models for sparse learning Learning Anchor Planes for Classification A Non-Parametric Approach to Dynamic Programming Fast a
第2回DSIRNLP勉強会に参加しました #dsirnlp - nokunoの日記
第2回 データ構造と情報検索と言語処理勉強会 #DSIRNLP - [PARTAKE] 自然言語処理はじめました by @phylloさん自然言語処理はじめました - Ngramを数え上げまくるDSIRNLPで発表させていただきました - Negative/Positive Thinking 自己紹介：Negative/Positive Thinking 今日の概要：いろんな方法でN-gram頻度を数える N-gramとは？ 隣り合うN個の塊のこと 単語n-gramや文字n-gramがある ナイーブな方法 ハッシュに入れて数える 問題：大規模テキストやNを大きくしたら？ N-gramの異なり数はNに対して指数的に爆発する 解決法：N-gramをメモリに保存しない！ Suffix Arrayを使った方法 入力文のSuffix Arrayを使った方法 メモリの節約になってる？：3*N+4byt
統計的言語モデルとN-best探索を用いた日本語形態素解析法 - nokunoの日記
今更ながら，NTT永田さんによる形態素解析のためのA*アルゴリズムを使ったN-best論文を読みました．というか，前にも読んで分かった気になっていたのだけど，忘れていたのでメモっておきます．統計的言語モデルとN-best探索を用いた日本語形態素解析法 そもそもA*アルゴリズムは最適解探索アルゴリズムであり，なぜこれでN-best探索ができるのか疑問でした．A* - Wikipedia論文の5ページ目には「最適解が得られたら，そのノードを取り除き，さらに探索を続けることにより次の最適解が得られる．」と書かれています．しかし，実際に擬似コード（図3）を読むとノードを削除するのではなくclosedリストに移しているだけで，しかもclosedリストに移されたノードは条件によってopenリストに戻される場合がある，というあたりがわかりづらかったです．これはラティス上では最適パスとそれ以下のパスがノー
日本語入力におけるN文節最長一致とはなんなのか - nokunoの日記
Googleの工藤さんとPFIの徳永さんがN文節最長一致法について議論している記事を見つけました．日本語入力におけるN文節最長一致とはなんなのか興味深かったので引用しておきます．Taku Kudo徳永さんの本のレビューをやりつつ、N文節最長一致について少しコメントを書きました。N文節最長一致についてはさんざんな言われようで、うまくいく原理はよくわからないとか、たまたまうまくいっているみたいな認識を持っている方が多いと思います。Mozcの開発を通じ、その心がわかったし、よくできてるんだなと感心しました。N文節最長一致は、ユーザの入力単位が文節であるという仮定を強く意識した手法です。換言すると、ユーザは自分の入力が常に1文節になることを期待しながら入力しているという仮定です。実はこれはあながち間違っていなくて、多くのユーザは無意識のうちに文節単位で入力しています。この仮定が常に正しのであれば、
入力メソッドワークショップで発表しました〜「Social IMEの共有辞書をクリーニングしてみた」 - nokunoの日記
入力メソッドワークショップ（別名IM飲み会）で「Social IMEの共有辞書をクリーニングしてみた」というタイトルで発表しました． WorkshopOnInputMethods2011 - chaime - ChaIME -- Term-based Yet Another Japanese Input Method Editor - Google Project Hosting 入力メソッド飲み会 2011 - [PARTAKE] Social IMEの共有辞書をクリーニングしてみた @nokuno発表資料をslideshareにアップロードしました．Social IMEの共有辞書をクリーニングしてみた View more presentations from Yoh Okuno 以下，他の人の発表についてのメモです． 機械学習による近代文語論説文への濁点の自動付与 岡さん 歴史的コーパ
CLOSE_WAITのセッションを早く消す方法 - つれづれなる・・・
原因はおそらくwebサーバ〜DBサーバ間のセッションがネットワーク的に不安定だったからだと思うけど、DBサーバで netstat -an すると 大量の CLOSE_WAIT のセッションが残ってしまって、MySQL の最大コネクション数にまで達してしまってwebの表示が出来なかった。CLOSE_WAIT をいきなり消すことは出来ないので、早めに消えるようにしたいときは tcp_keepalive_time TCPセッションが確立されて検査が実施されるまでの時間 時間になると tcp_keepalive_intvl と tcp_keepalive_probes の値にしたがって検査を実施する tcp_keepalive_intvl 次の検査を実行するときの待ち時間 tcp_keepalive_probes 検査の回数のそれぞれの値を小さくしてあげればよい。変更方法は vi で :wq する
EMNLP 2011 読み会を開催しました #emnlpreading - nokunoの日記
EMNLP 2011 読み会を開催しました．会場はサイボウズさんです．いつもありがとうございます！ACL Anthology » D11EMNLP 2011 Exact Decoding of Phrase-based Translation Models through Lagrangian Relaxation by @nokuno統計的機械翻訳のデコーディングを速い！正確！な方法で解きましたという論文．手法としてはラグランジュ緩和を利用している．Exact Decoding of Phrase-based Translation Models through Lagrangian Relaxation #emnlpreading View more presentations from Yoh Okuno Introducing Tuning as Ranking by @ippei
シェルスクリプトからsshでリモートコマンドを実行する際の注意点 - 矢野勉のはてな日記
メモ, プログラミングシェルスクリプトからsshで複数のリモートホストにコマンドを投げつける処理を書いてて、いろいろ気がついたことを、あとで自分で調べられるようにメモしておく。 ループからsshでコマンドを投げつけるシェルスクリプトのwhileループ内から、複数のホストへ順番にコマンドを投げつける処理をかいていると、最初のホストにしかコマンドが飛ばない（ループしない）これは、シェルスクリプトのwhileループ自体が、標準入力の読み取りに依存しているのに、sshも標準入力を読み取るのが原因。たとえばこんなループの場合に起きる。 somecommand | while read LINE do ssh user@hostname 'sh yourcommand /dev/null 2>&1 &' done nオプションを付けることで、sshの標準入力が/dev/nullに変わりバックグラウンド
Exploiting generative models in discriminative classifiers - がくしゅう日記
文献NIPS1998T. Jaakkola, D.Haussler2011/10/15 再読これは何度も読む価値がある文献.Fisherカーネルを, (1) モデルの判別力を高めるような計量(2) 生成モデルから得られたサンプルの自然な比較指標という２つの観点から導いている. (2)が原稿の本文で議論され, (1)は付録に.(2)は, 対数尤度をモデルパラメタで微分したものが, 特定のサンプルの生成にパラメタがどの程度影響するかを測る尺度であることと,統計多様体における自然な計量がFisher計量であることから導かれる.(1)は, ロジスティック回帰において, ラベルの事後確率を計算するときの入力データの内積をスコアで記述するときに, 計量をFisher情報行列にすると, 背後にある生成モデルの下で最良の判別性を持つという性質から正当性を主張している.
私が参考にしたAndroidアプリ開発情報をまとめてみました - もとまか日記
先日、以下の記事で初めて作ったAndroidアプリを紹介しました。 一週間で初めてのAndroidアプリを作ってみました その後、そのアプリをAndroidマーケットで公開してみました。 はてブ閲覧用Androidアプリ「HTBPocket」を公開しました この一連の作業で参考にした記事やサイトについて、「Androidアプリ開発関連情報まとめ」としてまとめてみました。 開発環境構築まず必要になるのが開発環境です。以下はMacの環境構築です。MacにAndroid SDKをインストール (Update 2010.05.25) そして以下がWindowsでの環境構築です。私はやったことないのでよく分かりませんが(^^;;世界を目指せ！Androidアプリ開発入門：第2回 Androidアプリ開発のための環境構築 公式の開発情報公式の開発者向けサイトです。Android Developers
Androidアプリでスプラッシュ画面を表示させる方法 - MIRAI THE FUTURE
やっと分かった！Androidアプリでスプラッシュ(Splash)画面を表示させる方法が！今までググっても、「これだっ！」って情報が無かったんですが、今日買った「コードからわかるAndroidプログラミングのしくみ 開発で困ったときの解決アプローチ」という本に書いてありました。というわけで、そのやり方を書いておきます。Androidプロジェクトのなかで書き換える箇所は、以下の3つです。スプラッシュ画面のレイアウトの定義用XML(splash.xml)スプラッシュ画面を実装したアクティビティクラス(SplashActivity.java)AndroidManifest.xmlsplash.xml xml version="1.0" encoding="utf-8"?> xmlns:android="http://schemas.android.com/apk/res/android" and
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Are Loss Functions All the Same? - がくしゅう日記
深いです - がくしゅう日記
A Training Algorithm for Optimal Margin Classifiers - がくしゅう日記
Using Random Forest to Learn Imbalanced Data - がくしゅう日記