タグ

ブックマーク / singula2045.hatenablog.com (1)

  • 1000ドルPCで生成AIを動かしてみた(ELYZA編) - シンギュラリティ実験ノート

    1000ドルPC(MINISFORUM UM790 Pro)に生成AIデスクトップで動かすソフトJanを導入した。今回はJanに用意されていない生成AIを追加導入する方法を紹介したい。 JanはGGUF形式に量子化されたモデルを使用するので、追加できる生成AIは量子化モデルが公開されていることが条件となる。今回追加したのはELYZA-japanese-Llama-2-7Bだ。 ELYZA-japanese-Llama-2-7B モデルの追加方法 Janを起動し、生成AIのモデルをダウンロードする画面(Hub画面)を表示すると、「 How to manually import model」というリンクがある。 Hub画面 ここをクリックすると下記のサイトが表示され、手順が説明されているので基的にこの通りに行えばよい。 jan.ai そうは言っても初めての方は戸惑うであろうし、この手順では

    1000ドルPCで生成AIを動かしてみた(ELYZA編) - シンギュラリティ実験ノート
    tedd707
    tedd707 2024/03/10
  • 1