Embeddingモデルを使ったベクトル化のしくみ、fine-tuning手法を解説自己紹介 • 名前 ◦ 早野 康太 • お仕事 ◦ 自然言語モデルの改善 • 今期期待のアニメ ◦ ユーフォ、無職転生、夜のクラゲ このすば、ガールズバンドクライ • 最近の映画 ◦ デデデデおもろかったです ▪ 幾田りら声優うまスンギ ▪ 原作もバチクソ良かった • 今後の映画 ◦ ウマ娘、ぼざろ、デデデデなど アジェンダ • Transformerモデル ◦ Attentionについて ◦ CLS, mean pooling • fine-tuningについて ◦ Contrastive Learning ◦ データセットのつくりかた • 世のEmbeddingモデルたちはどうしてるか ◦ m-E5 ◦ E5-mistral-7b-instruct ◦ BGE • Embeddingモデルの応用 ◦ RAGとかStable Diffusi
