逐次学習 (sequential learning)† 多くの学習では \(N\)個のデータが一括して与えられ,そこからパラメータの決定などの学習をする.こうした学習を 一括学習 (batch learning) という. 一方,逐次学習 (sequential learning; オンライン学習),データは一つずつ逐次的に与えられ,データが与えられるたびにパラメータを更新する.データを\(N\)個観測したあとでパラメータ\(\mathbf{\theta}^{(N)}\)が推定されているとする.このとき,\(N+1\)個目のデータと\(\mathbf{\theta}^{(N)}\)から,パラメータを\(\mathbf{\theta}^{(N+1)}\)を順次求めるようにする学習方法. 長所 全てのデータを一時的に蓄積しなくて良いので,少ないメモリで大規模なデータを扱える データが増加したと