rinna-3.6Bをオリジナル小説でLoRAファインチューニングしてみた【RTX3060 (VRAM 12GB)】｜葦沢かもめ

動作確認のために、お試しでやってみました。 概要背景AITuberを含めた創作活動への活用のためにrinna-3.6Bでのファインチューニングを勉強したかったのですが、せっかくなら持ってるRTX3060を使ってローカルでやりたいと思っていました。 偉大なる先駆者の方々によって方法が開拓されていたので、ありがたく参考にさせていただいた次第です。 本記事でやったこと・ローカルのRTX3060 (VRAM 12GB)でrinna-3.6BのLoRAファインチューニングを実行。 ・オリジナルの小説をデータセットとして利用。文の続きを書けるか試す。 参考記事以下の記事を参考にさせていただきました。ほとんどそのままです。環境構築など、詳細な手法はこれらの記事を参照してください。 実装環境構築上記の参考記事そのままです。 データセットの準備１）筆者のオリジナルの小説である『ミューズ・クロニクル ―第十七