CMU教授直伝の論文の書き方 - でかいチーズをベーグルする
CMUに留学している時にFaloutsos教授に教わった論文の書き方をまとめる。この書き方に従うことで論文の採択率がかなり上がった。今となっては自分的に当たり前のことだし、できる研究者の皆様は自然と守っていることも多いと思うけど良い論文を書きたいと思っている学生とかに参考にしてもらえたらと思う。ただし、Faloutsos教授に教えてもらったことを一旦自分で噛み砕いてからまとめたものなので自分の主観とかが混じってしまっているかもしれない。 主語が大きくならないように予め断っておくけど、この書き方はもちろんすべての論文に対して当てはまるわけじゃなくて以下の前提条件がある。 国際会議論文である データマイニング関連分野の論文である 論文誌とか卒論とかもっと長めの論文を書くときは当てはまらない項目もあるし、データマイニング関連分野以外の論文を書いたことが無いのでそれ以外の分野の論文に当てはまるかも
2014-05-28
講義ノートの目次へ グラフ理論・組み合わせ最適化の講義ノート。 ネットワーク（経路系）のアルゴリズムも含む。 大学の情報科学では，「離散数学」という分野だ。 以下に，「グラフ理論」と「組み合わせ最適化」の入門段階の要点を並べてみる。 最大フロー問題，最短経路問題，ダイクストラ法 オイラーグラフ，ハミルトングラフ 巡回セールスマン問題，郵便配達人問題 幅優先探索，深さ優先探索 グラフの連結性 有向グラフと無向グラフ，グラフの隣接行列，双対グラフ 辺彩色と面彩色，四色問題 マトロイド，離散マルコフ連鎖 これらの要点を独学で勉強しよう。 グラフがわかれば，グラフ上の最適化もわかる。 資料は，下記の分類にしたがって掲載した。 （１）日本語の教科書 （２）英語の教科書 （３）グラフ理論の応用に関する話題（組み合わせ最適化など離散数学） ※P/NPなどの計算量理論のノートはこちら。 （１）日本語の教科
Job Queueシステムを自分で設計するときに必要な設定項目メモ
「Job Queueシステムを使いたいんだけど、今回使いたい言語用のライブラリには低機能のものしかない、追加機能を少しだけ自分で作る必要がある」というときに、どういう機能を最低限作れば、システムリソースの使い過ぎ等を避けられるかメモ。 Google App Engine(GAE)のTaskQueueが以前使ってて便利だったので、「それと同じ機能が最低限あれば、とりあえずOKでは？」みたいな方針で書いてます。用語は基本的にGAEに合わせますが、各システムによって様々だったりします。 この記事に書かれた内容が絶対とかそういうわけではないのでご注意ください。 RateとBucket Size トークンバケットアルゴリズムでタスクを実行していく場合、RateとBucket Sizeの値を設定することで、結果的に、単位時間あたりに実行するタスクの数を設定することができます。 具体的な数字は完全にシス
Catastrophic interference - Wikipedia
Catastrophic interference, also known as catastrophic forgetting, is the tendency of an artificial neural network to abruptly and drastically forget previously learned information upon learning new information.[1][2] Neural networks are an important part of the connectionist approach to cognitive science. The issue of catastrophic interference when modeling human memory with connectionist models w
ねえママ, systemd が SEGV したらどうなるの? - Gentoo metalog
Linux 4.5 から cgroup2 というやつが入りました. こいつはいままでの cgroup とは違って, cgroup の tree がシステム全体で唯1つになり, 様々なファイルの名前も変わっています. そうすると, いろいろと cgroup を使っている systemd にも変更が必要…というわけでいまの systemd の git HEAD では様々開発されているような感じです. とは言ってもせっかく Linux 4.5 なのだから systemd-229 でも cgroup2 使いたいというわけでがんばってみたら死んだという話. 基本的に必要になるのは次の patch github.com もともと cgroup2 の挙動は "__DEVEL__sane_behavior" の FS mount option で有効になっていたので, それを切り替えていく patch で
数理計画法テキスト
学習・研究用テキスト(最適化,線形計画法,内点法,数理計画法) このページでは最適化,線形計画法,内点法,数理計画法などの分野に関しての学習用テキストを公開しています. テキストの特徴として 定理などの証明を詳しく記述 多くの例を用いて説明 となっているため,学習しやすいテキストとなっております.
RBMから考えるDeep Learning ～黒魔術を添えて～ - Qiita
ずいぶん遅くなりましたが、ひとまず完成です。疑問点・翻訳ミスを始めとした指摘がありましたら、どしどしお願いします(14/12/18)。 1週間あるから大丈夫だろうとたかを括っていたら、あっという間に投稿日になってしまいました。本当はPylearn2を使ってRBMを学習させようと考えていたのですが、役に立つ内容を書くには時間が足りなさすぎるので、お茶を濁します。 今回の目標 Restricted Boltzmann Machine及びDeep Belief Networkの基本的な動作原理を知る "A Practical Guide to Training Redstricted Boltzmann Machine"(GE Hinton, 2012)で黒魔術(RBMの性能を引き出すコツ)を学ぶ 先日、以下のような発表をしました。今回の内容は以下のスライドの焼き直し・改良を含みます。参考にどう
Difference Target Propagation Dong-Hyun Lee, Saizheng Zhang, Asja Fischer, Antoine Biard, & Yoshua Bengio 発表者 ̀鈴ྛ⽊ٲ雅⼤֒ 輪ྜྷ読＠DL Hacks 本論ྔ⽂٘について ¤༊ 発表学会 ¤༊ ICLR2015 workshop ¤༊ Be
Difference Target Propagation Dong-Hyun Lee, Saizheng Zhang, Asja Fischer, Antoine Biard, & Yoshua Bengio 発表者 ̀鈴ྛ⽊ٲ雅⼤֒ 輪ྜྷ読＠DL Hacks 本論ྔ⽂٘について ¤༊ 発表学会 ¤༊ ICLR2015 workshop ¤༊ Bengio先⽣ݑの最新研究？ ¤༊ 誤差逆伝播って脳ではやってないから，もっと⽣ݑ物学的妥当性の⾼ভい⽅ٛ法 でやりましょうという論ྔ⽂٘． ¤༊ Target propagationとそれを改良ྗしたdifference target propagationを 提案． ¤༊ 初出はBengio先⽣ݑのテクニカルレポート(arXiv:1407.7906)． ¤༊ 本当は”Toward Biologically Pl
Highcharts - Interactive Charting Library for Developers
Our core library. Includes all standard chart types and more.
分散プログラミングモデルおよびデザインパターンの考察 その3 - Software Transactional Memo
昨日に引き続いて分散システムのデザインパターンについて書いていきたい。 だがそれ以前に故障モデルに関する前提を忘れてはならない。人によって様々な方針があるが、個人的には分散システムの世界において意識しなくてはならない故障モデルは4つだと考えている。僕は前回のブログに書いた Replication の本をベースに書いており、少し言葉遣いや定義が他とやや違う点は許して欲しい。また、通信の脱落・遅延とはレイヤーが異なる議論である。 故障モデルの分類 故障が起きないモデル これは故障が起きない世界を仮定するモデルである。これ自体はプロダクションにそのまま投入できるものではない。だがこの故障モデルを想定しても解けない問題は故障が発生する状況では絶対解けない事が断言できたり、合意プロトコルが正しいかを議論する土台となったり、様々な実用的なアルゴリズムや分散システムの土台となるアルゴリズムが生まれる土壌
TransE [NIPS'13] を実装（と実験再現）した - でかいチーズをベーグルする
Graph embedding を調べる上で避けては通れないっぽいTransEを実装して実験再現してみた。モデルがシンプルでカッコイイし実装も簡単だった。データもパラメータも公開されてて実験を再現できたのもポイント高い。 TransE NIPS'13で提案されたGraph embeddingをする手法。Google scholarで既に100以上引用されていろんな拡張モデルが提案されてる。論文は以下。 papers.nips.cc TransEはKnowledge graph（Freebaseとか）をベクトル空間上にembeddingする。入力としてKnowledge graphを与えると、全てのsubject, predicate, objectに対してそれぞれk次元のベクトルを出力する。ポイントは出力されたベクトル空間に構造があること。例えば、 v(Kei Nishikori) + v
最新DDDアーキテクチャとAkkaでの実装ヒントについて
DDD+CQRS+Event SourcingとAkkaでの実装ヒントを解説。
言語と画像の表現学習
Several recent papers have explored self-supervised learning methods for vision transformers (ViT). Key approaches include: 1. Masked prediction tasks that predict masked patches of the input image. 2. Contrastive learning using techniques like MoCo to learn representations by contrasting augmented views of the same image. 3. Self-distillation methods like DINO that distill a teacher ViT into a st
A Visually Better Recovered Image Selection for Imaging Inverse Problems
信号処理・画像処理における凸最適化 小野峻佑 東京工業大学 像情報工学研究所 2015/11/28 日本オペレーションズ・リサーチ学会「最適化の基盤とフロンティア」 第4回研究部会@理科大神楽坂キャンパス 広がる凸最適化応用 3 凸最適化 （非可微分・制約付き） 画像復元 生体信号処理 医用画像処理 圧縮センシング 機械学習 無線通信 衛星/天体画像処理 リモートセンシング コンピュータ ビジョン 凸最適化問題とは 4 凸関数：目的関数 凸集合：制約条件 凸 非凸 関数 集合 なぜ凸最適化が使われるのか 5 ◆局所最適解＝大域的最適解 • 最適解を効率的に計算可能 • 問題設計の良し悪しの判定が比較的容易 ◆近接分離最適化 (proximal splitting) • 所望の信号に対する先験的性質の活用 • スパース、低ランク、etc… • 制約条件の取り扱いが比較的容易 • 信号値のレン
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TLS徹底演習
さくらのDockerコンテナホスティング-Arukasの解説とインフラを支える技術（July Tech Festa 2016 『IoTxAIxインフラ時代の最新技術、やってみたSP－俺の屍を越えて行け－』）
Hopcroft–Karp algorithm - Wikipedia
https://www.anlp.jp/proceedings/annual_meeting/2015/pdf_dir/C5-1.pdf
Zero per Zero
下読みをやっていて気になる文章のパターンとその対策
