サクサク読めて、アプリ限定の機能も多数!
ローカルこんな簡単に動くんだなぁ。すごい。
hate_nao のブックマーク 2023/08/14 11:48
Llama.cpp の HTTPサーバー機能を試す|npakaローカルこんな簡単に動くんだなぁ。すごい。2023/08/14 11:48
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/npaka2023/08/11
「Llama.cpp」のHTTPサーバー機能を試したのでまとめました。 ・Mac M1 1. モデルの準備今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-1...
18 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /
ローカルこんな簡単に動くんだなぁ。すごい。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
Llama.cpp の HTTPサーバー機能を試す|npaka
「Llama.cpp」のHTTPサーバー機能を試したのでまとめました。 ・Mac M1 1. モデルの準備今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-1...
18 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /