1000ドルPC(MINISFORUM UM790 Pro)に生成AIをデスクトップで動かすソフトJanを導入した。今回はJanに用意されていない生成AIを追加導入する方法を紹介したい。 JanはGGUF形式に量子化されたモデルを使用するので、追加できる生成AIは量子化モデルが公開されていることが条件となる。今回追加したのはELYZA-japanese-Llama-2-7Bだ。 ELYZA-japanese-Llama-2-7B モデルの追加方法 Janを起動し、生成AIのモデルをダウンロードする画面(Hub画面)を表示すると、「 How to manually import model」というリンクがある。 Hub画面 ここをクリックすると下記のサイトが表示され、手順が説明されているので基本的にこの通りに行えばよい。 jan.ai そうは言っても初めての方は戸惑うであろうし、この手順では