GitHub - sammy-suyama/PythonBayesianMLBook: 「Pythonではじめるベイズ機械学習入門」のサポートページです。You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Reservoir sampling - Wikipedia
Reservoir sampling is a family of randomized algorithms for choosing a simple random sample, without replacement, of k items from a population of unknown size n in a single pass over the items. The size of the population n is not known to the algorithm and is typically too large for all n items to fit into main memory. The population is revealed to the algorithm over time, and the algorithm cannot
大量のテキストからランダムに少数の行を抽出したい - Reservoir Sampling - 唯物是真 @Scaled_Wurm
前に以下のような記事を書きましたが、大量のテキストではうまくいかなかったので新たに書きました ファイルからランダムにN行取り出す(shufコマンド) - 唯物是真 @Scaled_Wurm 上の記事ではテキストをランダムに\(k\)行取り出したい時"shuf -n k"コマンドでランダムにシャッフルした\(k\)行を取り出していました ところが非常に大きなテキストファイルに対して上のコマンドを実行すると、一度にデータを全部メモリに読み込み始めているのか、すごい勢いでメモリを消費していきました(sort -Rでも) そこでメモリをあまり使わずにランダムに\(k\)行取り出す方法について調べました まず基本的な非復元抽出のアルゴリズムは以下の記事の発展手法とか追記のあたりの話がわかりやすいと思います 非復元抽出の高速かつ実装が簡単な方法を考える - 睡眠不足？！ この記事の話も一度全部の要素を
Pyroで実践するベイズ機械学習
本書について #Pyroで実践するベイズ機械学習は、Uber AI Labsが中心となって開発を進めている確率的プログラミング言語Pyroを用いてベイズ機械学習を行う方法を解説した入門書です。ベイズ機械学習の基礎からPyroでそれをどのように実装するのかまでを解説していきます。 本ドキュメントは2021/08/08 現在、制作中です。 本ドキュメントはオープンなプロジェクトであり、そのため協力者を広く求めています。本書のソースコードは GitHub上で公開されています。 本書への追記や修正などありましたら、上記GitHubにてIssueの発行、またはPull requestをお願いいたします。 本ドキュメントは Creative Commons Attribution-ShareAlike 4.0 International License のもとで公開されています。
後編 プログラミングを学ぼうと思い立つ 行列はVBAなんかじゃ無理っぽいし、..
後編 プログラミングを学ぼうと思い立つ行列はVBAなんかじゃ無理っぽいし、なんかプログラミング言語を覚えようと決める。 なんでも、統計やるならRという言語がいいらしい。 最近じゃPythonというのも人気らしい。 とりあえず両方試そうということで、RのためにRとRstudioをインストール。 Pythonはanaconda プログラミングはなんかを製作する目標がないと挫折すると聞いていたので。 深層学習というものが流行ってると聞いて、ちょっと触りを勉強したくなる。 「Excelでわかるディープラーニング超入門」 https://www.amazon.co.jp/Excel%E3%81%A7%E3%82%8F%E3%81%8B%E3%82%8B%E3%83%87%E3%82%A3%E3%83%BC%E3%83%97%E3%83%A9%E3%83%BC%E3%83%8B%E3%83%B3%E3
matsueushi | GaussianProcess
GaussianProcess Juliaのガウス過程ライブラリGaussianProcesses.jlを使う(ハイパーパラメーター推定) GaussianProcess / Julia 2019-8-4 11:04 Juliaのガウス過程ライブラリGaussianProcesses.jlを使う(基本編) GaussianProcess / Julia 2019-7-17 21:22 ガウス過程の補助変数法をJuliaで実装、回帰結果を比較 GaussianProcess / InducingVariableMethod / SparseApproximation / SoD / SoR / DTC / FITC 2019-7-4 10:10 ガウス過程の補助変数法 (Inducing variable method) を理解する GaussianProcess / InducingVar
機械と学習する
【概要】 「深層学習による自然言語処理」の輪読会をしています 輪読会第4回目は5章が範囲でした 【目次】 はじめに 輪読会記録 資料リンク 第5章の概要 5章全体を通した感想 その他：キャッチアップについて その他：実務での利用について おわりに 参考文献 はじめに 講談社MLPシリーズの「深層学習による自然言語処理」の輪読会をしています。 輪読会の範囲で気になったことや資料のリンクなどをまとめていきます。 輪読会のリンクはこちらです。 learn-stats-ml.connpass.com 「深層学習による自然言語処理」のほか、輪読会を定期開催しているので、気になった方はグループメンバーになってもらえるとうれしいです。 また、Slackのwork groupを用意しているので、参加したい方は何らかの方法で私に連絡ください（輪読会参加してなくてもwelcome）。 【トップに戻る】 輪読会
解説・講義資料 - Toshihiro Kamishima
機械学習・データマイニング全般 変わりゆく機械学習と変わらない機械学習 [物理学会誌 2019]：機械学習・データマイニングについての専門家以外に向けた解説記事 機械学習・データマイニング分野の概要：分野全体の概要と国際会議動向まとめ資料 ML, DM, and AI Conference Map：人工知能，機械学習，およびデータマイニング関係の国際会議関連マップ データマイニング：4種類の主要分析タスクとデータマイニングによる知識発見プロセスについての学部前半レベルの説明資料 社会における機械学習 機械学習・データマイニングにおける公平性 [人工知能学会誌 2019]：アルゴリズム決定の公平性に関する議論 Fairness-Aware Machine Learning and Data Mining: Tutorial on data analysis considering pot
NumPyroの基本を変化点検知で見る - HELLO CYBERNETICS
はじめに NumPyro基本 ライブラリの準備 確率分布 transoforms モジュール （tfp.bijector相当） 変化点検知 データ モデル 事前分布からのサンプリングでモデルの動作確認 MCMC推論 結果確認 はじめに TFUGベイズ分科会にてPPLについて話しました。改めてPPLを複数比較してみたことで、一層NumPyrpの書きやすさにほれぼれとしました。 www.hellocybernetics.tech 現状、PPLをまとめると 通常利用：Stan より低レベルを触れる研究用途：TensorFlow Probability 深層生成モデル及びベイズニューラルネットの変分推論 : Pyro 上記及び高速なMCMC : NumPyro という具合です。実際、速度やインターフェースの書きやすさを見るとNumPyroが個人的には抜けているのですが、一方でバックエンドがJaxで
TensorFlow User Group Meetup - ベイズ分科会 - 資料一覧 - connpass
「TensorFlow User Group Meetup - ベイズ分科会」の資料一覧です。
ノンパラメトリックベイズ
• – • • – • • } , , , { 2 1 N X x x x L = ) | ( Θ X p Θ • – • – ) | ( Θ X p ) | ( Θ x p ∏ = = Θ 6 1 ) | ( k x k k p θ x } , , , , , { 6 5 4 3 2 1 θ θ θ θ θ θ = Θ ∏∏ = = = Θ N n k x k k n X p 1 6 1 , ) | ( θ 1 ) | ( 6 1 = = Θ ∑ ∫ = k k d p θ x x } , , , { 2 1 N X x x x L = n x • – • – • Θ Θ ) | ( X p Θ ) | ( X p Θ • } , , , , , { 6 5 4 3 2 1 θ θ θ θ θ θ = Θ ∏∏ = = = Θ N n k x k k n X p 1 6 1 , ) |
データサイエンスによる日韓のコロナ対策比較｜筆の滑り
振り返りまとめを書きました。まずそちらをご覧ください。 ベイジアンモデリングという手法を使って日本と韓国のコロナ対策の有効性を考えます。 SIRDモデルまず背景にある数学的モデルを説明します。理論的な話に興味のない方は飛ばしてください。 ベースになっているのはよく知られているSIRDモデル（susceptible, infected, recovered and death model)です。これはこのように考えます。S[t]を時点tで未感染の人の数、I[t]を今感染している人の数（アクティブ）、R[t]を回復した人、D[t]を死亡した人の数とします。感染している人は各時点である確率βで未感染の人に病気をうつします。今感染している人はある確率aで回復し、確率dで死亡します。一旦回復すると免疫がついてもう病気にはかからなくなります。これを式にまとめてみましょう。Pは人口です。 新型コロナウイ
Pythonで作って学ぶ統計モデリング | AIdrops
Pythonで作って学ぶ統計モデリング 近年、AIや機械学習、深層学習といった用語に代表されるように、多種多様のデータを高度なアルゴリズムと計算機の力で解析し、将来予測などの価値を生み出す技術に注目が集まっています。 これらの技術の土台となっているのが、本記事で解説する統計モデリング（statistical modeling） と呼ばれる考え方です。元々は手計算が可能なレベルの比較的シンプルな数学的仮定を置いてデータを解析する方法論として発展しましたが、近年の計算機の性能発達に伴い、従来では取り扱えなかったより複雑なモデルを利用した高度な解析を実施する事例が増えてきています。特に、現在実践で広く使われている機械学習のモデルや、複雑な非線形関数を組み合わせた深層学習モデルなども、その多くは突き詰めれば統計モデルの一種であることが言えます。したがって、統計モデリングはそれ自体がデータ解析に対し
Jaxでガウス過程 + NumPyroでハイパーパラメータ推論 - HELLO CYBERNETICS
モジュール データ ガウス過程 カーネル関数 予測 決め打ちハイパーパラメータでの予測 MCMC でのハイパーパラメータ推論 モデル 事前分布からのサンプリング 事後分布の推論 予測分布 ガウス過程関連の記事 モジュール import jax.numpy as np import jax from jax import random, grad, vmap, jit, lax import matplotlib.pyplot as plt import seaborn as sns import numpyro import numpyro.distributions as dist from numpyro import plate, sample, handlers from numpyro.infer import MCMC, NUTS, SVI, ELBO plt.style.us
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://twitter.com/sammy_suyama/status/1514480469894524929
統計たん on Twitter: "@kspub_kodansha 様より，@sammy_suyama さんの新刊「Juliaで作って学ぶベイズ統計学」を献本いただきました。すこし私なりにレビューをしてみたいと思います。以下いくつか連続的につぶやきます。"
須山敦志 Suyama Atsushi on Twitter: "目次はこちらです。 https://t.co/4seRfgPohS https://t.co/uLb1DLw9QZ"
須山敦志 Suyama Atsushi on Twitter: "こちらのスレッドでTFUGで当日残ってしまった質問にお答えします。 https://t.co/oLqyeRhWcB #tfug"
TensorFlow Probability によるベイズモデリング入門
須山敦志 Suyama Atsushi on Twitter: "個人的には，ベイズモデリングツールであるTensorFlow Probabilityの成功は，潜在変数モデルの設計を民主化できるかどうかにかかっていると思います． https://t.co/SaoqrTCSAK"