サクサク読めて、アプリ限定の機能も多数!
“vLLM Distributed Inference and Serving”
misshiki のブックマーク 2024/04/23 16:40
自宅PCでクラスターを構築:コンシューマーGPUの枠を超え、大型LLMをローカルで動かす!|AIサトシ[自然言語処理][人工知能]“vLLM Distributed Inference and Serving”2024/04/23 16:40
このブックマークにはスターがありません。 最初のスターをつけてみよう!
note.com/aisatoshi2024/04/22
最近オープンになる大規模言語モデル(LLM)が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です 話題の、Command-r-Plusは、日本語性能について...
115 人がブックマーク・13 件のコメント
\ コメントが サクサク読める アプリです /
“vLLM Distributed Inference and Serving”
misshiki のブックマーク 2024/04/23 16:40
このブックマークにはスターがありません。
最初のスターをつけてみよう!
自宅PCでクラスターを構築:コンシューマーGPUの枠を超え、大型LLMをローカルで動かす!|AIサトシ
note.com/aisatoshi2024/04/22
最近オープンになる大規模言語モデル(LLM)が、軒並みGPT-4レベルの性能となっています Huggngfaceで無料でダウンロードできるのですが、問題は必要VRAM容量です 話題の、Command-r-Plusは、日本語性能について...
115 人がブックマーク・13 件のコメント
\ コメントが サクサク読める アプリです /