Text generation web UI で日本語 LLM の Calm2-7B を使用する方法

2024年3月23日現在の最新の Text generation web UI のバージョンは snapshot-2024-03-17 です (個人的には動作未検証)。WSL2 Ubuntu 22.04 LTS にゼロからインストールする方法は「こちらのページ 」で紹介しています。VRAM 12GB の GPU で 7B、13B のモデルを使用する方法についても記載しています。 私は Stable Diffusion WebUI を使用して SDXL 1.0 で画像を生成し、この日記のアイキャッチ画像を生成しています。画像生成 AI を使いたいが為に、ビデオカードは nVidia RTX3060 12GB を購入しました。VRAM の容量が多めで安価なもの、という基準で選択しました。