サクサク読めて、アプリ限定の機能も多数!
同梱のapi_like_OAI.pyを一緒に実行するとOpenAI互換サーバとして動作するので便利だぞ
endo_5501 のブックマーク 2023/08/11 21:18
Llama.cpp の HTTPサーバー機能を試す|npaka[ai]同梱のapi_like_OAI.pyを一緒に実行するとOpenAI互換サーバとして動作するので便利だぞ2023/08/11 21:18
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/npaka2023/08/11
「Llama.cpp」のHTTPサーバー機能を試したのでまとめました。 ・Mac M1 1. モデルの準備今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-1...
18 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /
同梱のapi_like_OAI.pyを一緒に実行するとOpenAI互換サーバとして動作するので便利だぞ
このブックマークにはスターがありません。
最初のスターをつけてみよう!
Llama.cpp の HTTPサーバー機能を試す|npaka
「Llama.cpp」のHTTPサーバー機能を試したのでまとめました。 ・Mac M1 1. モデルの準備今回は、「vicuna-7b-v1.5.ggmlv3.q4_K_M.bin」を使います。 ・TheBloke/vicuna-7B-v1.5-GGML ・TheBloke/vicuna-7B-v1.5-1...
18 人がブックマーク・2 件のコメント
\ コメントが サクサク読める アプリです /