ChatGPT の Fine-tuning を試したけど上手くいかなかった話

これはなに？ 新しくリリースされた ChatGPT (GPT-3.5 Turbo) の Fine-tuning を試してみたメモ。 ChatGPTに最新の知識や専門知識を注入できるかどうかをテストしてみた。 結局、自分が想定した動きにはできなかったので記事にして供養します🙏 tl;dr 一晩試してみた程度では、ChatGPTに最新の知識を教え込む目的での Fine-tuning はうまく動かなかった。 OpenAIが提示している想定のユースケースとずれている利用方法なので、もう少しトライしても上手くいかないんじゃないかなと思う。 学習データに入れた質問をそのまま投げてあげると回答できることもある程度だった。(このままでは到底使えない…) 出力のトーンや言語の指示にプロンプトの文字数を大量に使っていて、それを大幅に削減したい、という時には使えそうだなという印象だった。 学習データの自動生成

[shodai]

“Pydanticで出力の型定義をしておくと、 ChatGPTがその出力を守るまでOutputFixingParserが何度かトライしてくれる (帰れまテンしてくれる)”

[misshiki]

“Fine-tuningの実行自体は驚くほど簡単で、さすがOpenAIと思わせられました。”

[sonots]

上手くいかなかった事例の共有助かる :pray:

[lyiase]

この機能を会社で紹介する文に【「新たな知識を持たせる」のようなことは難しい】って推定で書いたのが検証されててありがたい。