モデルのダウンロードまでできちゃうのなんで?と思ったら https://github.com/shawwn/llama-dl リークされたモデルを8 bit量子化して勝手に再配布されてるようだ。いいのかなこれ

knokknok のブックマーク 2023/03/14 17:08

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

【超簡単手順】低スペックローカルPCで大規模言語モデル「LLaMA」を動かす!

    ある日、Twitterを巡回していると え...マジで?となりました。自分の専属AIを作りたい!と思い立ち、実際に動かしてみました。 目標 このようにローカルPC上でLLaMAとチャットできるようになります。 ただ、自分...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう