サクサク読めて、アプリ限定の機能も多数！
トップへ戻る
WWDC25
speakerdeck.com/hpprc
パラメータを固定した事前学習済みモデルに対して、ごく少数のパラメータからなる低ランク行列を導入・学習することで、モデル全体のfine-tuningと同等の性能を発揮できる手法であるLoRAと、その論文について解説した資料です。 深層学習を用いた自然言語処理の歴史的な変遷と周辺技術から、LoRAが必要と…
言語処理学会第29回年次大会 併設ワークショップ JLR2023 『日本語言語資源の構築と利用性の向上』での口頭発表「資源として見る実験プログラム」の資料版スライドです。 URL: https://jedworkshop.github.io/JLR2023/program
事前学習済み言語モデルを統合することによって構築される大規模Variational Auto-Encoder (VAE)モデルのOptimusと、その論文について解説した資料です。 Optimusを支えるVAEの目的関数の導出から丁寧に紹介します。
多言語文埋め込み手法であるLanguage-agnostic BERT Sentence Embedding (LaBSE)の論文について解説した資料です。
事前学習済み言語モデルと対照学習を用いて、非常にシンプルながら文埋め込み手法のState-of-the-Artを更新したSimCSEという手法について解説します。
このページを最初にブックマークしてみませんか？
『speakerdeck.com』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
