準ニュートン法 - Wolfram Mathematica Documentation Center

上記の経路でまず目に付くのはこれが間違った方向に向かって始まっている点である．最初のステップではすべての方法がその勾配に従わなければならないために，最急降下のこの方向が選ばれたのである．しかし，後続のステップでは，ヘッセ行列の近似モデルの構築のために取られたステップにおける関数値および勾配値からの情報が組込まれている． Mathematica は，BFGS (Broyden-Fletcher-Goldfarb-Shanno)更新法を使い，大規模システムでは，メモリ節約型のL-BFGS法を使う．L-BFGS法ではモデル Bk は明示的には保存されず，過去のステップから保存された勾配とステップ方向によって Bk-1f (xk)が計算される． 大規模で疎な問題の場合，BFGS法には少々問題がある．一般にコレスキー因子（あるいはヘッセ行列の近似 Bk またはその逆行列）は密なので，O (n2)のメ

[a-ki_room]

ブロイデン法って、BFGS更新法ってやつかしら…？