airoboros: GPT-4で作成した学習データで微調整した大規模言語モデル(ほぼgpt-3.5-turbo)｜はまち

Self-Instructの手法でGPT-4を使用して生成された学習データを使って、ファインチューニングされたLlaMA-13b/7bモデルが公表されていました。 モデルの概要Self-Instructの手法でgpt-4、またはgpt-3.5-turboを用いて、人間が生成したシードを含まず学習データセットを作成(OpenAIライセンスの対象） airoboros-gpt4 airoboros-gpt3.5-turbo gpt-4で作成されたトレーニングデータで、LlaMa-13b および7bをファインチューニング モデルの利用は、研究用途にのみに限定 学習データには、意図的に脱獄スクリプトを使用して生成されたデータも含む（いくつかの不適切なプロンプトのみ手動で削除） ファインチューニングは、FastChatモジュールを用いて実施。13bモデルはA100 80GB x8 約40時間で完了

[endo_5501]

おー、結構来てるな

[stealthinu]

ついに3090で動く規模のモデルでChatGPT-3.5レベルのものが出てきたか。モデルサイズがある程度あればあとは学習データに依存する部分が大きいのだな。