大規模言語モデル講座@松尾研をふりかえる

振り返る前に 今更ですが自分の記憶の整理と共に一月末に修了した松尾研主催の大規模言語モデル講座の振り返りを備忘録的に。。書いておきたいと思います。 改めて思い返すと、社会人で受けた講座の中で1番難しかった、の一言に尽きます。松尾研講座よく参加している人はよく知っていると思いますが、修了率がまさかの3割程度だったり脱落者もきっと多いのでしょう。参加者もこの業界では有名な"からあげさん"が参加していたり、コンペのレベルが異次元でした。そう脅してきたものの笑、受講したい方もいらっしゃるのではないでしょうか。学んだ内容について噛み砕いて説明していきます。 学んだこと カリキュラム ●第1回：Overview of Language Models ●第2回：PromptingとRAG ●第3回：Pre-training ●第4回：Scaling Law ●第5回：Supervised Fine-Tu

[masa8aurum]

しゅごそう