Convex Optimizationposted with カエレバStephen Boyd,Lieven Vandenberghe Cambridge University Press 2004-03-08 Amazonで探す楽天市場で探すYahooショッピングで探す 目次 目次 はじめに 凸最適化の概要と種類 線形計画法 (Linear programming) 二次計画法 (Quadratic programming) 二次錐計画問題(Second-order cone programming, SOCP) 整数計画問題 (Mixed Integer programming) 凸最適化の専門用語 unbounded infeasible active, inactive redundunt 凸集合と凸関数 Convex Set (凸集合) Convex function(凸関数)
前置き 某 オンライン機械学習コース の Linear Regression with Multiple Variables（多変量線形回帰）で出てきた、Normal Equation（正規方程式）について。 Andrew Ng 先生（以降、Ang先生 と略記）が「導出するのめんどい（意訳）」と言って結果だけ示されたので、ちょっとだけ掘り下げてみました。 その中で、疑問点も浮かんできたので共有してみます。 私自身、まだちゃんと分かってない部分もあるかもなので、ツッコミ大歓迎です。 【2015/07/24 23:10】検証コードを追加し、大幅に加筆修正しています。 まずはおさらい。 $X$ は、トレーニングデータの特徴量全体を表す $m \times (n+1)$ 行列（$m$（行数）はデータの件数、$n$ は feature（特徴）の数）。 $y$ は、トレーニングデータの「正解の値」を並
はじめに ほんと、久々の更新になってしまいました。。。 いまだに月間で1000PVほど見られているようでとてもありがたく思いますm(_ _)m 最近も変わらず因果推論の研究を中心に行っておりますが、それ関連の内容はまた機会をみてblogで書いていければと思っています。 また先日、twitterで公開したこちらのスライドもたくさんの方に見ていただけまして、コメントも頂けたりして、とても嬉しく、励みになっています。 speakerdeck.com また、少しずつではありますが更新いたしますので、たまに覗いていただければ嬉しいです。 では、本題にまいります。 今回の更新 とはいっても、今日の更新は、大した内容ではなく、pythonでstepwise regressionの関数で自分がほしいものがないので、つくりましたという内容です。 Stepwise Regressionについて 特に、回帰モデ
TransE [NIPS'13] を実装（と実験再現）した - でかいチーズをベーグルする
Graph embedding を調べる上で避けては通れないっぽいTransEを実装して実験再現してみた。モデルがシンプルでカッコイイし実装も簡単だった。データもパラメータも公開されてて実験を再現できたのもポイント高い。 TransE NIPS'13で提案されたGraph embeddingをする手法。Google scholarで既に100以上引用されていろんな拡張モデルが提案されてる。論文は以下。 papers.nips.cc TransEはKnowledge graph（Freebaseとか）をベクトル空間上にembeddingする。入力としてKnowledge graphを与えると、全てのsubject, predicate, objectに対してそれぞれk次元のベクトルを出力する。ポイントは出力されたベクトル空間に構造があること。例えば、 v(Kei Nishikori) + v
こんにちは。白ヤギのデータ分析担当の堅田です。 少し前になりますが、8月23日から1週間、京都大学で行われた機械学習サマースクール(Machine Learning Summer School, 通称MLSS)に行ってきました！ (写真はFacebook Machine Learning Summer School’15 – Kyoto より） MLSSとは、世界中の研究者や実務家が生徒として集まり、第一線の研究者から授業を受けるという、機械学習専門の短期コースです。講義は長いときで朝8:30から夜7時までとハードでしたが、機械学習の基礎理論に触れることができた、満足度の高いコースでした。 私は、2週間のコースのうちの最初の1週間しか参加していませんが、心に残った講義を紹介したいと思います。 1. Convex Optimization (Stephen Boyd) 日本語でいうところの、
LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog LINEでClovaの開発をしている上村です。これはLINE Advent Calendar 2017の13日目の記事です。今日は文字列の話をします。 はじめに 与えられた文字列によく似たものを大きな文字列集合から探すということは、古典的でありふれていながら奥が深く難しい問題です。文字列の類似度を正確に見積もるには複雑な計算が必要ですが、膨大な量のコーパスが与えられたときも可能な限り高速に応答を返す必要があります。 検索する文字列の性質をよく把握することも、品質のよい類似文字列検索を行うためには極めて大切です。ここで、今回考える問題の例を見てみます。 この例では、1文字ずつ違いを見つけ出したり、単語単位で見たり、文全体が疑問文
Improved Techniques for Training GANs [arXiv:1606.03498]
概要 Improved Techniques for Training GANsを読んだ Chainer 1.18で実装した アニメ顔画像を学習させた MNISTの半教師あり学習を実験した はじめに この論文はGANによる画像生成と半教師あり学習の2つに焦点を当て、新たな学習テクニックを提案したものです。 この記事ではそのテクニックの中からfeature matchingとminibatch discriminationを実装します。 さらに多クラス分類器をDiscriminatorとして使うテクニックを用いてMNISTの半教師あり学習を行ないます。 以下、訓練データを$x$、Generatorが生成したデータを$\bar{x}$とします。 またDiscriminatorを$D(x)$、ノイズ$z$から$\bar{x}$を生成するGeneratorを$G(z)$と表記します。 GANでは$
『恋愛から自然へ（論文再録）』
恋愛から自然へ（論文再録） | Philosophy Sells...But Who's Buying? 昔書いた論文です。 よかったらお読みください。 ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ 恋愛から自然へ シャルル・フーリエ『愛の新世界』（福島知己訳）についての書評論文 （『思想』、岩波書店、第一〇〇八号、2008年4月、44～53ページ。） 國分功一郎 我々は恋愛をするが、恋愛について知らない。ニーチェは、身体こそは意識よりもはるかに驚嘆すべきものなのだと語り、スピノザを創造的に読みかえたドゥルーズは、『エチカ』から、人は身体が何を為し得るのかを知らないというテーゼを取り出した。彼らに倣って言うなら、フーリエの『愛の新世界』は、次のように語る書物であるだろう――恋愛こそは驚嘆すべきものであり、ひとは恋愛が何を為し得るのか知らない。 一九世紀のユートピア
損失関数はそれほど複雑な関数ではないのかも？と言う話 - Obey Your MATHEMATICS.
前回の記事 mathetake.hatenablog.com にある論文(2-2-9)[1605.07110] Deep Learning without Poor Local Minimaについてのお話です*1。 Abstractを読んだ瞬間に、こんな重要な論文をどうして今まで知らなかったのかと言うぐらい興奮しました。 少し長いですが引用しますと In this paper, we prove a conjecture published in 1989 and also partially address an open problem announced at the Conference on Learning Theory (COLT) 2015. With no unrealistic assumption, we first prove the following state
談 Speak, Talk, and Think
「生-権力」はどのように現れるか 杉田敦 Atsushi Sugita 生-権力というのは国家権力を通じて現れるわけですが、必ずしも否定的なものとして出てくるとは限らない。 ある場面では、ポジティヴにも解釈できることもあるんです。生-権力とは、そういう二面性をもっている。 というか、そもそも権力というもの自体が、二面性をもっているものなんです。 生-権力にしても権力のメカニズムにしても、いいか悪いかというものではなくて、そこに既にあるものなんです。 それをどのように受け入れるかは、個人の問題であり、自分の問題です。 すぎた・あつし 1959年群馬県生まれ。東京大学法学部卒業。現在、法政大学法学部教授。政治理論専攻。著書に、『境界線の政治学』岩波書店、2005、『デモクラシーの論じ方』ちくま新書、2001、『権力』岩波書店、2000、共著書に、『社会の喪失』中公新書、2005、訳書に、『アイ
黒田日本銀行（日銀）総裁が退任しました。10年間と歴代最長の就任期間を誇った黒田総裁の退任は一つの時代が終わったとも感じられます。 この黒田日銀総裁の退任記者会見の内容は報道もされていますが、実際のやり取りをみると日銀の大規模金融緩和に対する日銀の総括が分かりやすく示されており、非常に理解しやすいのではないかと思います。 今回は、黒田日銀総裁の退任記者会見の内容を抜粋し、皆さんと日銀の金融政策について確認していきたいと思います。 金融緩和の成果と課題 10年間の金融緩和の教訓 物価目標実現の時期 物価2％目標が達成できなかった理由 2023年度の物価上昇率が低下する予測について 最後に 金融緩和の成果と課題 日銀が2023年4月10日に同年同月7日に行われた黒田総裁退任記者会見内容を文面にして公表しています。以下はその抜粋です。新聞等での報道では新聞社のスタンスや記者・解説者の考え等が反映
2. 共円定石 メジャーなものから超マイナーなものまで、九路盤定石をすべて公開します！！！ 定石 0: 自明パターン 比較的自明な場合として 一直線上 (ルール) 長方形 等脚台形 が挙げられます。いずれも共円であることが自明なパターンですが、このうち等脚台形については、斜め 45 度の等脚台形に注意が必要です。しばしば見逃してしまいます。 余談ですが「斜め 45 度じゃない等脚台形」も一応あります。例えば下図は確かに等脚台形になっています！3 定石 1: 八角形 続いてこれも比較的わかりやすい八角形定石です。内角がすべて $135$ 度になっていて、対称性から共円になることが明快です。しかし右図のように 4 点だけを取り出すと、意外と指摘が難しいことがわかると思います。このような共円をほぼ確実に避けられるようになると脱初心者と言えるでしょう！ 八角形定石のサイズにはバリエーションがあり、
公開コピー誌 行列ライブラリEigenのメモ 暗黒通信団 ●1 はじめに 本稿は、C++ の行列演算において標準的な位置を占めつつある Eigen ライブラリの基本的な使い方を示したものである。Eigen �
公開コピー誌 行列ライブラリEigenのメモ 暗黒通信団 ●1 はじめに 本稿は、C++ の行列演算において標準的な位置を占めつつある Eigen ライブラリの基本的な使い方を示したものである。Eigen は ヘッダのみで構成される純粋なテンプレートライブラリで、コンパイ ルは不要だ。Eigen の特長は高速であることだ。長い行列演算を遅延 評価し、無駄な中間行列を作らずに計算する。そして高速な CPU 命 令を使いベクトル化している。記述は簡便で、コンパイラはまっとう な C++ コンパイラであれば何でも使える*1 。画面出力は cout だけ で大体 OK だ。インストールも「http://eigen.tuxfamily.org」 から最新版をおとし、eigen/Eigen 以下を/usr/include あたりに 展開するだけだ。 こんなに便利なのに日本語のドキュメントが少なすぎる
世界で異形の「30年デフレ」 - 日本経済新聞
日本経済は30年にわたりデフレに沈んできた。値段や賃金は変化しないものだという強いノルム（社会規範）が消費者、経営者に浸透した。コスト削減に経営資源を振り向ける縮小均衡のワナから脱するには、物価を上回る賃金の上昇や、人々の意識の変化が重要になる。（総合1面参照）日本経済は1990年代以降、物価の低迷が続いてきた。インフレやデフレに関する代表的な指標の消費者物価指数（CPI、生鮮食品を除く総合）
scikit-learnでSparse CodingとDictionary Learning -実践編- - takminの書きっぱなし備忘録 @はてなブログ
この記事は@naoya_tさん主催の機械学習アドベントカレンダーの12月25日分の記事です。そして昨日のコンピュータビジョンアドベントカレンダー「Scikit-LearnでSparse CodingとDictionary Learning -理論編-」の続きです。 機械学習ACのサイトから来た方に簡単に自己紹介をすると、私はコンピュータビジョンや画像処理の分野でフリーランスをしているid:takminと言います。プロフィールはここにまとまってます。 ここではscikit-Learnを使ってSparse CodingとDictionary Learningを実装してみようと思います。Sparse CodingとDictionary Learningについて知らない方は、こちらの記事を先に読まれることをお勧めします。 scikit-learn（Pythonベースの機械学習ライブラリ）でSpar
1 福水健次 統計数理研究所／総合研究大学院大学 大阪大学大阪大学大学院基礎工学研究科・集中講義 2014 September カーネル法入門 １．カーネル法へのイントロダクション 2 2 カーネル法: 近年 (1990年代半ばごろから) 発展したデータ解析の方 法論．非線形な情報や高次モーメントの扱いが容易． サポートベクターマシンの提案が発端となった． 3 3 線形なデータ解析，非線形な データ解析 データ解析とは? Analysis of data is a process of inspecting, cleaning, transforming, and modeling data with the goal of highlighting useful information, suggesting conclusions, and supporting decision ma
と無次元化されるSO96:2.1.1節 簡単な計算によりa0、Eaの具体的な値は 、 …(A2) である事が分かる。 ボーア半径・ハートリー[編集] 特に、陽子の質量m0が電子の質量m1より遥かに重いと仮定した場合の水素原子の系におけるa0、Eaは より、 、 である。ここでeは電気素量である。この場合のa0をボーア半径といい、Eaを基準としたエネルギーの単位をハートリーというSO96:2.1.1節。 求解[編集] 本節では(Y2)のハミルトニアンを無次元した のスペクトルを求める。なお、本節ではまず変数分離解を求めるが、後述するように実はこのハミルトニアンは変数分離解しか持たない。 求解の方針[編集] (A1)を解く基本的アイデアは、無次元化した座標系(x′,y′,z′) = (x/a0, y/a0, z/a0)を球面座標(r′,θ,φ)に変換するというものだが、直接球面座標を用いると
HOG特徴量の計算
概要 HOG(Histogram of Oriented Gradients)を知らないゴリラはいない。 中部大学 藤吉研究室 http://www.vision.cs.chubu.ac.jp/joint_hog/pdf/HOG+Boosting_LN.pdf 東工大 画像解析論 http://www.isl.titech.ac.jp/~nagahashilab/member/longb/imageanalysis/LectureNotes/ImageAnalysis07.pdf 以下では、ある点の近傍を1ブロックとして、そのHOG特徴量のみを計算する。 一般的なHOGの計算では画像領域を格子状のブロックに分け、各ブロックの位置（格子点）で特徴量を計算してそれらを連結する。 しかし、これを素朴に実装すると問題が発生する。 たとえば人物検出で探索窓をスライドさせるとき、計算に用いるセルは数ピ
ExchangeWire Japanに転載された記事です。 リターゲティング広告、ダイナミックリターゲティング広告の仕組み リターゲティング広告とは リタ―ティング広告とは行動ターゲティング広告の1つであり、アドネットワークが登場した初期から多くの広告主に利用されてきた広告です。現在でもアドネットワークやDSPに広告出稿している広告主のほとんどが、リターゲティングを行っているでしょう。 リターゲティングでは1度自社のWebサイト（正確にはリターゲティング用のタグを設置できるメディア）に訪問したユーザーをリスト化し、そのリストに対して広告配信を行います。自社サイトへ訪問経験があるということは、それだけ興味関心レベルが高いユーザーということになるため、他のオーディエンスターゲティング等と比較して、媒体レポート上のCVやCPAが良くりやすい仕組みです。 ダイナミックリターゲティング広告とは ダイ
時間依存性を考慮したWord Embeddingsのまとめ - Sansan Tech Blog
はじめに こんにちは、DSOC研究開発部の橋本です。最近買ってよかったな、と思ったものは「詰め替えそのまま」です。これはシャンプーやトリートメントの詰め替えをそのままホルダーにかけて使うことができるようになるグッズで、文字通り（比較的安い）詰め替えをそのまま・簡単に使えるようになる点、お風呂の床に詰め替えを置かなくて済むようになる点という2つの点から非常に良いです。気になる人はぜひググって買ってみてください。 詰め替えそのままの話はさておき、今回時間依存性を考慮したword embeddingsの話をします。 時間に依存するword embeddingsの必要性 現在では、word embeddingsはもはや一般的なツールになりつつあると思います。学習済みのword embeddingsを適用して特徴量とし、何かしらの機械学習アルゴリズムにかける、というのもよく行われていると思います。し
MIRA (Margin Infused Relaxed Algorithm) 京都大学大学院情報学研究科知能情報学専攻 中澤 敏明 nakazawa@nlp.kuee.kyoto-u.ac.jp 2009/7/31 勉強会 1 Introduction MIRA(Margin Infused Relaxed Algorithm) はオンライン学習アルゴ
MIRA (Margin Infused Relaxed Algorithm) 京都大学大学院情報学研究科知能情報学専攻 中澤 敏明 nakazawa@nlp.kuee.kyoto-u.ac.jp 2009/7/31 勉強会 1 Introduction MIRA(Margin Infused Relaxed Algorithm) はオンライン学習アルゴ リズムの一つで、事例と超平 面との距離 (Margin) をモデル更新に利用 (Infused) する。Relaxed の気持ちは、[3] で示されている multiclass version Perceptron のパラメータ更新時の制約を緩めているところから来ている (と思われ る)。なお MIRA の初出は [3] であり、正確にはこの論文中での定義が MIRA なのだが、この MIRA は 分離可能な問題にしか対応しておらず、こ
"Gradient Boosted Feature Selection" (Xu et al., KDD 2014) メモランダム - 渋谷駅前で働くデータサイエンティストのブログ
本日の輪読会で僕が担当した論文のメモランダムということで、置いときます。 概要 Gradient Boosted Feature Selection (Xu, Huang, Weinberger and Zheng, KDD 2014) タイトルが示すように特徴量選択をやりたいというのが第一のモチベーションで、これをgradient boosted machineでやろうというお話。ちなみに昨今のKaggleやKDD cupではxgboostが大流行しているわけだが、元はと言えばこれは要はgradient boosted treeである。なので多分これはxgboostの枠組みでもやれるのではないかと勝手に期待してゐる。 1 INTRODUCTION / 2 RELATED WORK 特徴選択が機械学習にとって重要だというのは今更言わなくてもみんな分かっているであろうお話。最も広く用いられて
はじめに ウェーブレット変換を考える動機 周波数解析 時間周波数解析 周波数解析の限界 短時間フーリエ変換 不確定性関係 時間と周波数のどちらを立てるのか ウェーブレット変換 ウェーブレット変換のモチベーション１ ウェーブレット変換のモチベーション２ ハールウェーブレット マザーウェーブレットから生まれる基底たち 基底を足し算していろんな波形を作る 逆ウェーブレット変換から見る とは ウェーブレット変換 ウェーブレット変換を更に詳しく 基底について 基底の選び方で結果が変わる 基底の性質の差異 利用方法や得意領域 非定常な波形の時間周波数解析 不確定性関係のバランス取り ある程度性質が分かっている場合の異常検知 ノイズの除去 最後に はじめに ウェーブレット変換は、生まれながらにしての時間周波数解析手法であり、短時間フーリエ変換などに変わる解析手法として使われています。今回はウェーブレット
Kerasで選択できる最適化アルゴリズムそれぞれの違いと使い所がいまいちわからんかったので調べてみた。 Incorporating Nesterov Momentum into Adamがアルゴリズムを整理してくれているので理解しやすかった。 とりあえずざっくりと俯瞰した感じだと、いかに効率良く傾斜を降下していくかという課題を解決するっていう大枠からはみ出るものはない。そんで、構築しているモデルの種類やサイズによってベストなアルゴリズムは変わってくるので、突き詰めるのであれば要実験。ただ、上記論文は、NadamかRSMProp使っときゃいいんじゃないっすか、みたいなこと言ってる。なんにしろ2000年代後半以降で進化が進んでいる分野であり、今後もアップデートがあるだろうから追っていきたい。 SGD まずはオーソドックスな勾配法。 後述するMomentum法や、NAGもKerasの中ではSGD
one-liners
What's New 12.09.28 歯車の節を「その他」の章に追加しました。 12.09.22 ハノイの塔の節を■■ PythonSf を使った遊びの章に追加しました。 12.09.21 PythonSf から R を利用するの節を■■ PythonSf Fast Tourの章に追加しました。 12.09.18 ■■ 代数系 に「結合律の強力さ」の節を追加しました。 12.09.16 ■■ 置換群：Sn(N) に「二面体群」の節を追加しました。 12.08.19 ■■ コンピュータ時代の回転行列:diadic 回転行列 軸回転行列を追加しました。 12.08.19 ■■ 自然単位系、プランク単位系とカスタマイズ・ファイル sfCrrntIni.pyを追加しました。 ■■ はじめに PythonSf は Python Scientific Functional math software
リアプノフ指数 - Wikipedia
離れていく2つの軌道とリアプノフ指数の関係 リアプノフ指数（リアプノフしすう、英: Lyapunov exponent）とは、力学系においてごく接近した軌道が離れていく度合いを表す量である。リャプノフ指数とも表記される[1]。ロシア人科学者 Алекса́ндр Ляпуно́в（アレクサンドル・リプノーフ、Aleksandr Lyapunov）にその名をちなむ[2]。 系の相空間上の2つの軌道について考える。2つの軌道上の時刻 t における点の距離をベクトル δ(t) として、初期状態 t = 0 には、これらの軌道は距離 δ(0) だけ離れているとする。δ(t) を近似的に次のように表す[3][4][5]。 ここで はユークリッドノルムを意味する。上式で λ > 0 の場合は軌道は離れていき、 λ < 0 の場合は軌道は近づいていく。よって、軌道が離れていく度合いは λ の値により決定
SparseMatをつかった超解像処理を行います．このデモンストレーションは下記論文の実装になっています．詳細は以下論文やビデオをご覧ください． Farsiu, S.,Robinson, D., Elad, M., Milanfar, P.”Fast and robust multiframe super resolution,” IEEETrans.ImageProcessing 13 (2004)1327?1344. C++ //Super resolution with Bilateral Total Variation //Implimentation of a paper; //Farsiu, S.,Robinson, D., Elad, M., Milanfar, P."Fast and robust multiframe super resolution," IEEETran
相転移P @phasetr #qmstd http://amzn.to/hHU8q7について見るべき所を挙げておきたい．まずp120からが決定的に重要．例3で関数空間（多項式空間）に内積を叩き込んでいる．量子力学で出てくる線型空間は原則関数空間なので，正にここを使う．ヒルベルトとか鬱陶しいのはひとまずいい 2011-03-05 15:54:48 相転移P @phasetr #qmstd p122例5：ルジャンドル多項式．多項式空間での基底としてのルジャンドルを出してきている．関数のノルム（ベクトルの「長さ」）も出している．ルジャンドルは電磁気でも出てくる．マクスウェルは電磁場の「線型」方程式なので上手くはまってくれる 2011-03-05 15:58:41 相転移P @phasetr #qmstd p126例7，有限フーリエ級数．フーリエは知っていると仮定するが，正にフーリエが線型代数の枠
シェーディングまとめ - しゅみぷろ
はじめに esprog.hatenablog.com 引き続き、CGの基礎的なところをおさらいしていこうと思います。 Forward Renderingについてまとめてみた - しゅみぷろ の内容と関連がありますので参考までに。 今回はこちらの本を参考に、シェーディングについてまとめます。 シェーディングの考え方 ライティングの物理 「フォトン(光子)」は振動数を$\nu$として $$E=h\nu$$ であるようなエネルギー$E$を持ちます。$h$はプランク定数です。ここでエネルギーの話をしたのは、光の強さとフォトンの持つエネルギーが密接に関わっているためです。 「光源」は連続的にフォトンを放出します。フォトンは真空中を真っ直ぐ移動しますが、原子と衝突することで以下のような影響を受けます。 進行方向が変わる 進行方向と振動数が変わる 原子に吸収される フォトンに色はありません。人間はフォト
フィルタリングの話の前にスコアの計算が気になったので深く見てみることにした。 基本的な知識 ベクトル空間モデル 単語を一つのベクトルとして表現して扱うベクトル空間モデルでは、ドキュメントの類似度をコサイン距離で計算する。 正規化することでドキュメントの長さの情報が失われてしまうのが問題点。 TF・IDF より良い結果を得る方法として各タームを出現頻度によって重みづけるというやり方が知られている。 をドキュメントの集合として、 各タームの に対してを文書における の出現回数、はが一回以上含まれる文書の数としたときに IDFはドキュメント全体におけるタームの重要性なイメージ。におけるの重みは。 他にも定義は色々存在するようだ*1。 Luceneのスコア計算 概念的なスコア計算 Luceneでは、のノルムの部分を以下のように分解している。 項 説明 coord ドキュメントに含まれるタームの数に
ルジャンドル多項式 - Wikipedia
直交性[編集] ルジャンドル多項式の重要な性質の一つは、これらが閉区間 [−1, 1] 上の L2-内積に関して直交すること、即ち以下の式を満たすことである。 ここで δmn はクロネッカーのデルタ、即ち m = n のとき 1 で、それ以外のときは 0 である。すなわち、関数系 {1, x, x2,...} にシュミットの直交化法を適用することによってルジャンドル多項式を導出法とすることが可能である。この直交性により、ルジャンドル多項式系がエルミート微分作用素 の固有値 λ = n(n + 1) に属する固有関数系となるようなスツルム・リウヴィル理論としてルジャンドルの微分方程式を捉えることができる。 物理学における応用[編集] ルジャンドル多項式は初め、1782年にアドリアン＝マリ・ルジャンドル[4]により、ニュートン・ポテンシャル（英語版） の展開の係数として定義された。ここに、r,
Loading… Flash Player 9 (or above) is needed to view presentations. We have detected that you do not have it on your computer. To install it, go here. 「コンピュータビジョン最先端ガイド」勉強会 4章 テンソルと多視点幾何 - Presentation Transcript 第4回「コンピュータビジョン最先端ガイド」 勉強会 2010/7/19 「4章 テンソルと他視点幾何」 7節-10節 このスライドの作成者 twitter:@payashim Email : payashi@gmail.com イントロダクション 「Why 3D?」 Ｑ．（大学院生 Ａ君より） 「私は3次元が苦手なのですが、２次元 だけで生きて行っても大丈夫ですか？ (コ
リプシッツ連続 - Wikipedia
解析学におけるリプシッツ連続性（リプシッツれんぞくせい、英: Lipschitz continuity）は、ルドルフ・リプシッツに名を因む、函数のより強い形の一様連続性である。直観的には、リプシッツ連続函数は変化の速さが制限される。即ち、適当な有限値の実数が存在して、その函数のグラフ上の任意の二点を結ぶ直線の傾きの絶対値はその実数を超えない。この上界をその函数の「リプシッツ定数」（あるいは一様連続度（英語版））と呼ぶ。例えば一階微分が有界な任意の函数はリプシッツである[1]。 微分方程式論において、リプシッツ連続性は初期値問題の解の存在と一意性を保証するピカール–リンデレフの定理の中心的な条件である。リプシッツ連続性の特別な場合で、縮小性はバナッハの不動点定理において用いられる。 実数直線の有界閉集合上で定義される函数に関して、以下のような包含関係の鎖が知られている[2]: 連続的微分可能
ポアンカレの回帰定理 - Wikipedia
ポアンカレの回帰定理（ポアンカレのかいきていり、英: Poincaré's recurrence theorem）、または単に回帰定理とは、アンリ・ポアンカレ(H.Poincaré,1854-1912)により証明された力学系の定理である[1]。ポアンカレの再帰定理[2][3][4]とも呼ばれる。力学系のある状態を出発点としたときに、その時間発展は出発点といくらでも近い状態に無限回戻ってくることを主張する。ポアンカレは天体力学の三体問題の研究の中でこの定理に至り、1890年に発表した[5][6]。 概要[編集] 解析力学では力学系のひとつの状態は相空間(例えば質点の位置と運動量を座標とする空間)上の点で表され、その点の近傍はその状態に近い状態の集まりを表し、回帰定理はこの相空間上の力学系に関する定理である。簡単には、「力学系は、ある種の条件が満たされれば、その任意の初期状態に有限時間内にほぼ
はじめに 「深層生成モデルを巡る旅」シリーズ第3回はみなさんお待ちかねの（？）GANのまとめです. GANは綺麗な画像を生成することに長けており, その人気はFlowやVAEと比べても圧倒的です. その一方で, 世にはGANの研究があふれていて, 画像生成に限っても把握するのが困難な状態になっています. 本記事では, 元祖から最新の研究に至る歴史の中で重要と思われるものをジャンル別に紹介したいと思います. 今回も画像生成のみを扱います. GANの基本 GANそのものについての解説は日本語のものに限っても既に多数あるので, ここでは簡単に触れることとし, 後に続く各手法の紹介に集中したいと思います. ご存じの方は飛ばしてください. 全体像 A Beginner's Guide to Generative Adversarial Networks (GANs) | Skymind GANは生成
はじめに 目標の設定と指標の決定 目標の設定 指標の決定 評価指標に対する最低限の知識 機械学習における知識（補足） ニューラルネットワークの学習 最初に使うニューラルネットワーク 時間的にも空間的にも独立である複数の特徴量を持つデータ 空間の局所的な構造に意味のある多次元配列データ（例えば画像） 時間的な変動に意味のあるデータ（例えば音声、自然言語） ニューラルネットワークの細かい設定 ユニットの数と層の数 正則化 活性化関数 ドロップアウト バッチ正規化 学習の早期終了 性能が出ない場合 データの追加収集 ニューラルネットの設定をいじる 用いるニューラルネット自体を変更する 新たなニューラルネットワークの考案 コードを書くにあたって データ成形 結果を記録するコード フレームワークの利用 フレームワークの選択 ChainerとPyTorch TensorFlow Keras 最後に は
本記事は情報検索・検索エンジン Advent Calendar 2019の15日目の記事です。 他の人達の記事がすばらしくてずっと胃が痛かったです。温かい目で見てください。 本記事は、ちょっと検索から離れますが情報推薦の分野からの内容になります。 要約 本記事ではMatrix Factorizationの派生手法をいくつかとりあげて紹介します。 具体的には以下の手法を紹介します。下２つは紹介程度に留めます。 オリジナルのMatrix Factorization(ベース) ベース+バイアス項 ベース+バイアス項+implicit feedback(SVD++) Non-negative Matrix factorization(NMF) regularized single-element-based NMF (RSNMF) ベース+バイアス項+implicit feedback+時系列処理
Introduction to Information Retrieval #11 の復習資料 - naoyaのはてなダイアリー
Introduction to Information Retrieval 輪読会 11章の復習資料を以下にアップロードしました。 http://bloghackers.net/~naoya/iir/ppt/iir_11.ppt 11章は、は "Probabilistic information retrieval" すなわち確率的検索モデルです。 IIR 10章までにあつかった検索モデル IRシステムをどのような概念を用いて実現するかが「検索モデル」であり、IIR ではここまで以下の2つのモデルを扱いしました。 ブーリアンモデル ベクトル空間モデル ブーリアンモデルは比較的単純な検索モデルで、ブール代数を基礎とした論理式によりクエリを組み立て、検索するモデルです。基本的にスコアリングは行いません。 ベクトル空間モデルは、クエリや文書を索引語の重みベクトルで表現して、クエリベクトルと文書ベ
数値計算の基礎 川上一郎 著 http://www7.ocn.ne.jp/˜kawa1/ 2008 年 1 月 23 日改訂 i 目次 第 1 章 数値計算 1.1 数値計算と誤差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1.1 1.1.2 誤差・絶��
数値計算の基礎 川上一郎 著 http://www7.ocn.ne.jp/˜kawa1/ 2008 年 1 月 23 日改訂 i 目次 第 1 章 数値計算 1.1 数値計算と誤差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1.1 1.1.2 誤差・絶対誤差・相対誤差 . . . . . . . . . . . . . . . . . . . 許容誤差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 1 2 3 3 4 4 4 5 7 9 13 13 13 13 13 14 17 17 21 21 23 23 25 28 30 32 34 39 39 39 1.2 1.1.3 丸めの誤差 . . 1.1.4
人間の性 - Wikipedia
この記事には複数の問題があります。改善やノートページでの議論にご協力ください。 出典は脚注などを用いて記述と関連付けてください。（2013年11月） 信頼性について検証が求められています。確認のための情報源が必要です。（2013年11月） 信頼性に問題があるかもしれない資料に基づいており、精度に欠けるかもしれません。（2013年11月） 独自研究が含まれているおそれがあります。（2013年11月） 雑多な内容を羅列した節があります。（2013年11月） 人間の性（にんげんのせい）あるいはセクシュアリティ（英: human sexuality）とは、人間における性的本能の充足に関係する行動や性的振る舞いの総体を指す。 人間の性は多様な位相を備え、それらは時として相互に矛盾することがある。生殖、健康、快楽などの位相で、葛藤が起こりえる。 また、人間関係、社会、法律、道徳や、宗教的禁忌などの位相
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
凸最適化(Convex Optimization)の基礎 - MyEnigma
線形回帰の Normal Equation（正規方程式）について - Qiita
Data Science by R and Python
機械学習サマースクール2015@京都大学に行ってきました！ | カメリオ開発者ブログ
類似文字列検索ライブラリResemblaを公開しました
黒田総裁退任会見にみる日銀金融政策の総括 - 銀行員のための教科書
ボードゲーム「共円」に学ぶ、ガウス整数 x + yi の世界 - Qiita
[PDF]カーネル法入門 1． - 統計数理研究所
水素原子におけるシュレーディンガー方程式の解 - Wikipedia
リターゲティング広告の仕組みと純増効果測定方法「スプリットテスト」の解説 ～Fringe81 佐藤様インタビュー～｜デジタルマーケティングラボ
ウェーブレット変換の基本 - HELLO CYBERNETICS
確率的勾配法あれこれまとめ - KAZ log TechMemo
スパース行列(SparseMat)の使い方2：超解像 | opencv.jp
相転移P（@phase_tr）による「量子力学を理解するために斎藤正彦『線型代数入門』を読む人が注目すべき点」
ElasticSearch入門 (3) スコアの計算 - 野次馬エンジニア道
「コンピュータビジョン最先端ガイド」勉強会 4章 テンソルと多視点幾何
深層生成モデルを巡る旅(3): GAN - Qiita
ディープラーニングの応用のための具体的方針まとめ - HELLO CYBERNETICS
Matrix Factorizationの派生アルゴリズムまとめ - Qiita