本連載は「これから機械学習に取り組みたい」「ディープラーニングや機械学習を使った経験がある」といったエンジニアに向けて、データ量が少なくても分析が実現できる「スパースモデリング」という手法を紹介します。前回はスパースモデリングの代表的な手法であるLASSOについて解説をしてきました。今回は、辞書学習と呼ばれる手法を紹介し、画像処理への応用について解説します。 辞書学習とは LASSOとは、\(y\)と\(\Phi\)が与えられたとき、\(\frac{1}{2}\|y - \Phi x \|^2_2 + \lambda \|x\|_1\)を最小化するような\(x\)を見つける問題でした。これは、\(y = \Phi x\)に対して、観測値\(y\)は説明変数のうち少ないものの組み合わせで表現できるはずだという仮定に基づいています。 今回紹介する辞書学習は、観測値が与えられたとき、これらの観測