OpenAI APIのファインチューニングの学習データのガイドライン｜npaka

以下の記事を元に、「OpenAI API」のファインチューニングの学習データのガイドラインをまとめました。 1. 学習データの書式ファインチューニングするには、単一の入力「プロンプト」とそれに関連する出力 「コンプリーション」 のペアで構成される学習データが必要です。これは、１回のプロンプトで詳細な手順や複数の例を入力するような、ベースモデルの使用方法とは大きく異なります。 「学習データの書式」のガイドラインは、次のとおりです。 ・プロンプトが終了してコンプリーションが開始することをモデルに知らせるため、区切り記号 ("\n\n###\n\n"など) でプロンプトを終了する必要があります。区切り記号は、プロンプトの他の場所で使用されない文字列を指定します。 ・コンプリーションが終了することをモデルに知らせるため、停止記号 ("\n"、"###"など)でコンプリーションを終了する必要がありま

[shunkeen]

ブログの筆者がファインチューニングを試したわけではなく、OpenAIの記事を日本語訳して、ポイントを書いているのでは？サンプルコードとレスポンスがまんまだし／https://platform.openai.com/docs/guides/fine-tuning/preparing-your-dataset

[T-norf]

外部から情報を引っ張ってきて都度プロンプトで渡すのが良いか、ファインチューニングが良いのか。要求性能、許容コスト、参照(学習)データの量と質。新規データ対応頻度。ここら次第だし、やってみんと分からんよね

[misshiki]

ブコメを見ると翻訳らしい。ChatGPTってファインチューニングできるの？と疑問に思ったが、公式サイトを見ると、そうではなく、現在はDavinci、Curie、Babbage、Adaのベースモデルのみでできるらしい。

[mayumayu_nimolove]

かなり参考になる

[shields-pikes]

chatの方の解説記事は山ほどあるが、こっちの方の情報は少ないので、試行した上での日本語解説はとても助かる。　※なんだ、翻訳記事か。こういう記事書くなら自分で試行してくれ……。