ローカルLLMに小説を書いてもらう｜Kohya S.はじめにn番煎じですが何かの参考になれば幸いです。 「君に綴る手紙」～ Command R+に小説家と編集者を両方やってもらったCommand R+のGGUF、Q4_K_Mを用います。laksjdjf氏のchatuiにモデル同士で対話させるsimulate機能がありますので、UIはそちらを利用しました（モデル状態を保存して高速化するため一部変更して利用しています）。チャットのuserとassistantを入れ替えつつ、両方ともモデルに生成させる機能です。 小説を出力するためコンテキスト長と生成長は長めに設定しておきます。 小説家側(A)のシステムプロンプトは以下です。 あなたは才能ある新進気鋭の恋愛小説家です。編集者と話し合いながら、新作の短編恋愛小説を書き上げてください。 以下の流れで小説を書いてください。 1. プロットを書いてください。起承転結を意識してください。編集者のアドバイスを
