タグ

ブックマーク / www.pagumi-bayesian.com (3)

  • “自由度0のt分布”をNumpyroで実装してみる - ぱぐみの部屋

    記事は、『確率的プログラミング言語 Advent Calendar 2023』の15日目の記事になります。(アドベントカレンダーを主催していただいた松浦さんに感謝です!!) 今回は、論文『Log-Regularly Varying Scale Mixture of Normals for Robust Regression』で提案されている、外れ値を含んだデータの回帰分析に有用な“自由度0”のt分布と、Numpyroでの実装方法をご紹介します。 一般的な回帰分析 一般的なベイズ(線形)回帰分析では、以下の式を考えます。 $$ \begin{gather*} y_i = \alpha + \sum_{k=1}^Px_{i,k}\beta_k + \varepsilon_i \ (i=1,\dots,N) \\ \varepsilon_i \sim N(0, \sigma^2) \end{g

    “自由度0のt分布”をNumpyroで実装してみる - ぱぐみの部屋
    sh19910711
    sh19910711 2024/06/14
    "外れ値を含んだデータの回帰分析 + 誤差項𝜀𝑖の分布に正規分布を用いると、𝛼や𝛽𝑘の推定に大きく影響してしまう / 正規分布よりも裾が厚い分布を用いることで、より外れ値に頑健な推定が可能" 2023
  • DeepARで複数系列の予測をする - ぱぐみの部屋

    業務で時系列データの予測モデルを作る時、私は基的にProphetを最初に選択します。なかなかの精度のモデルが、手早く簡単に作れるからです。 しかし、時系列データが数百系列あるような場合、いかにProphetといえどもモデルを数百個作成することになり、計算に時間がかかりますし、保守とか管理もめんどくさくなります。 (パラメータチューニングも考えるとなおさら) VARや状態空間モデルのような、多変量時系列の予測に使える手法もありはするんですが、さすがに数百系列のデータの適応するのには無理があります。 そこで、今回はDeepARという深層学習を使った時系列予測アプローチを使い、モデル1つで複数系列データを予測する方法をご紹介します。 DeepARとは? DeepARは、Amazonが開発した時系列予測フレームワークです。論文はこちら。 ざっくり説明すると、目的値$z_{i,t}$そのものを予測

    DeepARで複数系列の予測をする - ぱぐみの部屋
    sh19910711
    sh19910711 2024/05/27
    "Prophet: なかなかの精度のモデルが、手早く簡単に作れる / DeepAR: 目的値そのものを予測するのではなく ~ 分布のパラメータを特徴量や前の値を用いて構築 + 幅での予測 + 1つのモデルで複数系列の予測が可能" 2022
  • LinkedInが開発した時系列モデル“Greykite”の理論と実装 - ぱぐみの部屋

    時系列データのモデリングとして、以下のような手法がメジャーかなと思います。 ARIMA Prophet 状態空間モデル RNN LSTM DeepAR 今回は、2021年に発表された比較的新しい手法であるGreykiteのご紹介をしていきます。 注意:記事は2022年11月時点の情報をもとに記載しております。ライブラリの変更等により記事の記載内容が古くなる可能性がありますが、ご了承ください。 Greykiteとは? LinkedInが2021年にOSSとして公開した時系列予測モデルです。機械学習分野の国際会議であるKDD2022でも発表されたようです。 KDD2022よりLinkedInによる時系列予測OSS Greykite (https://t.co/wpsCnuak2t) の紹介論文。コアとなるSilverkiteというアルゴリズムの紹介が中心で解釈可能性と速度が売り。Proph

    sh19910711
    sh19910711 2022/11/20
    "Greykite: LinkedInが2021年にOSSとして公開した時系列予測モデル + KDD2022でも発表 / 解釈可能性と計算速度が売りらしく、論文中でもMetaが開発したProphetや、Amazonが開発したDeepARと比較 / 探索的分析に役立つ可視化機能も充実"
  • 1