交互最小2乗法 - SICE オンライン・ハンドブック

交互最小2乗法(alternating least squares：ALS)は、非線形パラメータ推定のための一つの有効な方法として知られている。この方法の考え方は古くは1930年代にさかのぼるが、確立されたのは、1960年代にWoldによってNIPALSとよばれる推定法が提案されたときである。 パラメータ推定においては、しばしば推定すべきパラメータの数が問題とされる。特に、データ数の増加に従って、未知パラメータの数が増加するようなモデルの場合が問題になる。例えば、このような場合には最尤推定法は複雑なものになる傾向がある。 ALSは多数の未知パラメータを推定する場合に有効な方法の一つであり、一度に多くのパラメータを推定することの困難さを回避する推定法といえる。すなわち、ALSでは、まずパラメータを複数のグループに分け、そして“一つのグループのパラメータを他のパラメータは既知として推定する”と