タグ

pyroと機械学習に関するxiangzeのブックマーク (2)

  • 「Deep Learning is Singular, and That's Good」論文とpyro実装を読む

    「Deep Learning is Singular, and That's Good」論文とpyro実装を読む 「Deep Learning is Singular, and That's Good」(論文)とpyro実装を読む 確率的プログラミング言語 Advent Calendar 2023の20日目の記事です。 「Deep Learning is Singular, and That's Good」という野心的なタイトルの論文があり、そこでは特異学習理論で重要になる量であるRLCT(real log canonical threshold,実対数しきい値)の3層ニューラルネットにおける値の計算をpyroで実装しているのでそれを紹介します。 書かれた人,Daniel Murfetさんのページを見ると代数幾何と機械学習の関係、特異学習理論のほかにも圏論や論理、チューリングマシンなどの計

    「Deep Learning is Singular, and That's Good」論文とpyro実装を読む
  • 【PyTorch・Pyro】モデリングレシピ - HELLO CYBERNETICS

    はじめに 単一の分布を使ったモデル 正規分布 同時分布の設計 同時分布からのサンプリング Pyroコード ベルヌーイ分布 同時分布の設計 同時分布からのサンプリング Pyroコード カテゴリ分布 同時分布の設計 同時分布からのサンプリング pyroコード 混合モデル ガウス混合モデル 同時分布からのサンプリング Pyroコード ディリクレ過程混合モデル(某折過程モデル) 同時分布からのサンプリング Pyroコード 最後に はじめに Pyroで確率モデリングを書くときには「確率モデリング自体を知ること」と「Pyroの書き方を知ること」の両方が必要です。今回はPyroの書き方に重点をおいて、とある確率モデルを記述するためのPyroでのコード例を適当に記載します。 約束事として、観測変数(データ) $x$ に対して、このデータの生成にまつわるパラメータをすべてひっくるめて $\theta$ と記

    【PyTorch・Pyro】モデリングレシピ - HELLO CYBERNETICS
  • 1