サクサク読めて、アプリ限定の機能も多数!
“大規模指示応答言語モデルである、ELYZA-japanese-Llama-2-7b-fast-instruct1 をファインチューニングして vLLM で推論してみます。”
misshiki のブックマーク 2024/02/01 18:37
はじめての自然言語処理 ELYZA 日本語 Llama 2 指示応答モデルのファインチューニングと vLLM での推論 | オブジェクトの広場[自然言語処理]“大規模指示応答言語モデルである、ELYZA-japanese-Llama-2-7b-fast-instruct1 をファインチューニングして vLLM で推論してみます。”2024/02/01 18:37
このブックマークにはスターがありません。 最初のスターをつけてみよう!
www.ogis-ri.co.jp2024/01/27
今回は Elyza さんの日本語 Llama 2 指示応答モデルをファインチューニングし、vLLM にデプロイして高速に推論してみます。70 億パラメータモデルならギリギリ Tesla T4 x 1 の構成でも float16 で動かせるかと思...
5 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /
“大規模指示応答言語モデルである、ELYZA-japanese-Llama-2-7b-fast-instruct1 をファインチューニングして vLLM で推論してみます。”
misshiki のブックマーク 2024/02/01 18:37
このブックマークにはスターがありません。
最初のスターをつけてみよう!
はじめての自然言語処理 ELYZA 日本語 Llama 2 指示応答モデルのファインチューニングと vLLM での推論 | オブジェクトの広場
www.ogis-ri.co.jp2024/01/27
今回は Elyza さんの日本語 Llama 2 指示応答モデルをファインチューニングし、vLLM にデプロイして高速に推論してみます。70 億パラメータモデルならギリギリ Tesla T4 x 1 の構成でも float16 で動かせるかと思...
5 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /