Frank Nielsen | Divergences (dissimilarities, discrepancies, discriminations, displacements, diversities, affinities)
Distances, dissimilarities, divergences, diversities, discrepancies, discriminations, displacements, deviations, etc. Last updated, September 15th 2023. Some books on distances/divergences: Fisher-Rao distance A numerical approximation method for the Fisher-Rao distance between multivariate normal distributions Optimal transport vs. Fisher-Rao distance between copulas for clustering multivariate t
定曲率空間の計量 - 相対論の理解とその周辺
FLRW の3次元空間は定曲率空間であった。定曲率空間を表す計量テンソルについてまとめる。 3次元定曲率空間別ページで，3次元計量テンソル \(\gamma_{ij}\) から計算されるリッチテンソル \({}^{(3)}\! R^{i}_{\ \ j} \) が曲率定数 \(k\) を使って $${}^{(3)}\! R^{i}_{\ \ j} = 2 k \delta^i_{\ \ j}$$と表されるとき，この空間は定曲率空間である，といったが，本来の定義は以下のようになっている。 リーマンテンソルが（曲率定数 \(k\) と計量テンソル \(\gamma_{ij}\) だけを使って） $${}^{(3)}\! R_{ijkl} = k(\gamma_{ik} \gamma_{jl} – \gamma_{il} \gamma_{jk})$$ と表される空間を定曲率空間という。 こ
拡散モデルがモード崩壊しない理由 - Qiita
はじめに GAN（Generative Adversarial Network; 敵対的生成ネットワーク）のモード崩壊は、訓練中のGANがデータセットの多様性全体を捉えることができず、限られた数のサンプルまたは非常に似ているサンプルのみを生成するときに発生する問題を指します。この問題はGANの訓練の難しさとしてよく知られています。 モード崩壊の原因としては次のようなものが考えられています。 敵対的なフィードバックの不均衡： 生成器が特定のサンプルをうまく生成できると、それを繰り返し生成することで識別器を欺くのが簡単になる場合があります。その結果、生成器はデータセットのその他の多様性を学ぶ動機を失うことがあります。 学習率の不均衡： 生成器と識別器の学習率や更新速度が不均衡であると、モード崩壊が発生しやすくなります。 一方、2023年に流行している拡散モデルではモード崩壊するといったことはほ
情報幾何の基礎概念 長岡 浩司（電通大）
情報幾何の基礎概念 長岡 浩司（電通大） ノート：野田知宣（OCAMI） § 0. 先ず情報幾何と今回の講義の概略を述べる。情報幾何という言葉は厳密な定義が ある訳ではなく、人によって狭く捉えらえたり広く捉えらえたり、あるいは捉える 場所も異なる。しかしながら確率分布、あるいは確率構造の一つ一つを点とするよ うな空間を考え、その上に微分幾何的構造をのせて解析することは共通している。 このような観点に立っても入る構造には色々ある。その中で今回は一番基本的且つ 重要と思われる Fisher 計量（と云われる Riemann 計量）と α-接続（と云われる affine 接続） 、これらは確率分布を要素とする多様体上にのる、の話をしたい。この ような話が歴史的にどのように出て来たかと云えば、そもそもは統計学からであり、 統計学の中で Fisher 情報行列（Fisher 情報量）がおそらく２０世紀前
論文：平衡化学熱力学のもつヘッセ幾何学構造
特任助教の杉山さん、上村さん、研究員のLoutchkoさんの論文が2報ジョイントで公開されました。 以下、広報でボツになったプレスリリース用の文章をちょっと改変してまとめを作成してみました。 研究のポイント ◆ 熱力学第二法則だけから、化学熱力学が持つ普遍的なヘッセ幾何学的構造を導いた。 ◆ 化学熱力学系を特徴づける諸量がヘッセ幾何構造と自然に対応づくことを示した。 ◆ 化学反応で形作られる細胞などの生体システムが、熱力学の法則にどう制約されるのかを明らかにするための理論基盤になる。 研究概要 熱力学は、対象とする物理系の詳細から切り離された形で構成される物理学においても非常に普遍性の高い理論的な枠組みです。平衡熱力学の体系は100年以上前に確立され様々な分野に応用されていますが、化学反応系においては平衡熱力学の成立と同時期に質量作用の法則に代表される具体的な反応速度論が見いだされたことも
後藤 振一郎 (Shinichiro Goto) - 資料公開 - researchmap
Thermodynamics is a branch of physics that offers systematic approaches to analysing thermodynamic phenomena. Despite its success, its mathematical description is expected to be clearer. To formulate thermodynamics in the language of sophisticated mathematics, thermodynamics is described by a variety of differential geometries, including contact and information geometries. Meanwhile, affine geomet
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Motivations for the study of dual connections
https://webpark2072.sakura.ne.jp/otworkshop/slide_amari.pdf
slide-Ito
https://www.jstage.jst.go.jp/article/emath1996/2002/Spring-Meeting/2002_Spring-Meeting_24/_pdf/-char/ja
最適輸送理論と勾配流の幾何学的研究
https://www.hokudai.ac.jp/news/180719_pr.pdf
An Information Theoretic Interpretation to Deep Neural Networks
Information Geometry of Dropout Training
https://www.sci.kyoto-u.ac.jp/sites/default/files/2021/kce/OI9VaQ/files/170928kyoto-handout.pdf
About the geometry of Stein variational gradient descent. | FXV
Information geometry of U-Boost and Bregman divergence
https://www.smapip.is.tohoku.ac.jp/~smapip/2003/hayashibara/proceedings/NoboruMurata.pdf
https://download.dsf.tuhh.de/ig4ds22/slides/IG4DS-RobBrekelmans.pdf
Information Geometric Duality of ϕ-Deformed Exponential Families