SetFitの検索結果1 - 3 件 / 3件

• あとで読む

  SetFit: Efficient Few-Shot Learning Without Prompts

  • 4 users
  • huggingface.co
  • テクノロジー
  • 2022/09/28

  SetFit is significantly more sample efficient and robust to noise than standard fine-tuning. Few-shot learning with pretrained language models has emerged as a promising solution to every data scientist's nightmare: dealing with data that has few to no labels 😱. Together with our research partners at Intel Labs and the UKP Lab, Hugging Face is excited to introduce SetFit: an efficient framework f

  • あとで読む

  
• あとで読む

  実際問題、Few-Shot学習手法SetFitはいつ使うとよいのか？ - Qiita

  • 3 users
  • qiita.com/sonoisa
  • テクノロジー
  • 2023/04/16

  概要 少量の学習データ（Few-Shot）でも精度が出る深層学習手法が登場してきています。 その一つがSetFitです。テキスト分類向けのFew-Shot学習手法です。 本記事では、SetFitを使うとよい（使わない方がよい）場面を見極めるために、リアルな問題に近い日本語ニュースジャンル分類タスクをお題に、学習データ数を変えながらそこそこ強い日本語T5と戦わせてみます。 忙しい方向けに最初に結論をまとめ、その後にSetFitの使い方の説明を兼ねて実験を再現するためのコードの解説をしていきます。 結論 Livedoor news記事のジャンル分類タスク（9分類タスク）について、クラスあたりのデータ数を2倍ずつ変えながら、SetFitと日本語T5それぞれについて分類精度を計測しました。 結果は下図のとおりです。 なお、クラスあたりのデータ数は全クラスで同一（均衡）になるようにランダムサンプリン

  • qiita

  
• あとで読む

  SetFit による Sentence TransformersのFew-Shotファインチューニングを試す｜npaka

  • 3 users
  • note.com/npaka
  • テクノロジー
  • 2022/10/02

  「SetFit」による「Sentence Transformers」のFew-Shotファインチューニングを試したので、まとめました。 1. SetFit「SetFit」は、「Sentence Transformers」をFew-Shotファインチューニングするためのフレームワークです。ラベル付き学習データをほとんど使用せずに、高い精度を実現します。 例えば「Customer Reviews (CR) sentiment dataset」では、1クラス8個の学習データセットのみで、3000個の完全な学習データセットで「RoBERTa Large」をファインチューニングしたものと同等の精度になります。 特徴は、次のとおりです。 ◎ プロンプトは必要なし 少数のラベル付き学習データから埋め込みを直接生成するため、プロンプトは不要です。 ◎ 学習が高速 T0やGPT-3 のような大規模モデルなし