Lensだけで作るニューラルネットワーク

これは、FOLIO Advent calendar 2021 の15日目の記事です。 圏論を機械学習に応用する話題の一つとしてLensで微分可能プログラミングを実装する話を紹介したいと思います。とはいえ圏論など気にせずLensを使ったニューラルネットワークを実装していきます。学習モデル、誤差関数、学習係数などの基本的な構成要素が全てLens(ParaLens)として実装できる様子を楽しんでいただければと思っています。 Lensって何？ Lensはいわゆる getter と setter を組み合わせたデータ構造です。すなわち型sのデータ型から型aの値を取り出すgetter s -> a と、型sのデータ型を型aの値で更新して新しい型sのデータ型を作成するsetter (s, a) -> s から成っています。

[rawwell]

"ところでこの ff と R[f]R[f] を一緒に見て何か気づかないでしょうか？そうLensの型と同じ形をしています"

[zyzy]

すげー発想!!　Lens自体が色々と出来る可能性秘めてるんだな

[shunkeen]

“Lensは双方向のデータフローを合成可能な形でうまく表現できるため、今回紹介した微分可能プログラミングを始め確率的プログラミング等いわゆる帰納プログラミングの考え方ととても相性がいい”／なるほど🤔わから

[Windymelt]

面白い!! / "Lensは双方向のデータフローを合成可能な形でうまく表現できる"