タグ

ブックマーク / note.com/holy_fox (1)

  • 一日でできる! オリジナルのローカルLLMの作り方【データ合成からLM Studioまで】|Holy_fox

    はじめにこの記事では効率的な合成データ生成からそのデータを学習したモデルのGGUF変換、OllamaやLM Studioでの推論まで行います。 データ合成にはSDG LOOM、学習にはUnsloth Studio、推論にはLM Studioを用います。 これを理解すれば誰でもオリジナルのLLMを作成することができます。 今回は「小説生成ローカルモデル」を例に挙げて作成を行います。 それでは初めて行きましょう。 合成データの作り方このステップでは、LLMを用いた合成データを作ります。 オリジナルのLLMを作成するにあたって、1番大事なのは合成データです。 どのようなデータを作り、そしてそれを用いてどのような大規模言語モデルを目指すのかを決定するのがこのフェーズになります。 合成データを作るにあたって、以下の3つの点が大切だと個人的に思っています。 ・データの品質 ・コストパフォーマンス そし

    一日でできる! オリジナルのローカルLLMの作り方【データ合成からLM Studioまで】|Holy_fox
    CLSmooth
    CLSmooth 2026/03/29
  • 1