エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
BFGS法などの準ニュートン法の概要・数式理解とPythonプログラムの確認 - あつまれ統計の森
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
BFGS法などの準ニュートン法の概要・数式理解とPythonプログラムの確認 - あつまれ統計の森
BFGS法の仕組み ニュートン法と準ニュートン法 多次元ニュートン法は最適化の各反復計算の際にヘッセ行... BFGS法の仕組み ニュートン法と準ニュートン法 多次元ニュートン法は最適化の各反復計算の際にヘッセ行列を活用することで収束を速めることができる手法である。 ニュートン法は収束が速いなど有用である一方で、変数が多い時などはヘッセ行列の計算が容易でないなど、必ずしも良い手法であるとは言えない。 上記を受けて準ニュートン法ではヘッセ行列の計算を定義通りに行わずに漸化式的にヘッセ行列の推定を行う。たとえば$1$次元の変数$x \in \mathbb{R}$と目的関数$f(x)$に対し、下記のように$1 \times 1$のヘッセ行列の推定を行うことができる。 $$ \large \begin{align} \nabla^2 f(x^{(k+1)}) \simeq \frac{\nabla f(x^{(k+1)}) – \nabla f(x^{(k)})}{x^{(k+1)}-x^{(k)}} \