nips 2007 tutorial - DO++nips 2007（行ってないけど）のtutorialが例年のようにweb上から見れるようになってます [link] たぶんそのうちvideoも公開されるのでしょう。 面白いもの揃いですが、とりあえず目についたのは次の二つかな ・Learning Using Many Examples 非常に大量の訓練用データが使える場合の学習はどうすればいいのという話。結論から言うとStochastic Gradient Descent(確率的勾配降下法）が理論的にも、実践的にも優れている。 パーセプトロンスタイルの学習(Online Passive Agressive Algorithm [pdf]）とか、Online Exponentiated Gradient Algorithm[pdf]とか、どんどんオンライン型学習（データまとめて見ないで、一個ずつ見てすぐパラメータ更新する）手法の優位性がどん
