「Google Colab」で「SFTTrainer」によるLLMの (LoRAではなく) フルパラメータのファインチューニングを試したので、まとめました。 1. SFTTrainer「SFTTrainer」は、LLMを「教師ありファインチューニング」 (SFT : Supervised Fine Tuning) で学習するためのトレーナーです。LLMの学習フレームワーク「trl」で提供されているトレーナーの1つになります。 2. モデルとデータセット今回は、LLMとして「OpenCALM-small」、データセットとして「multilingual-sentiments」を使いました。 ・OpenCALM-small : 有名なLLMの中で日本語対応かつ軽量なモデル ・multilingual-sentiments : 感情分析用に、0:positive、1:neutral、2:negat
![Google Colab で SFTTrainer によるLLMのフルパラメータのファインチューニングを試す|npaka](https://cdn-ak-scissors.b.st-hatena.com/image/square/d87597435b471bbba9dd3e5d94a664bb969a4221/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F117045119%2Frectangle_large_type_2_d66c142f4d709598f62297d5cf64f811.jpeg%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)