大規模言語モデルRWKVをローカルPCで試す｜Ko Onuma

テクノロジーカテゴリーの変更を依頼記事元:

note.com/ohnuma

37 usersがブックマークコメント

コメント

0

記事へのコメント0件

注目コメント
新着コメント

新着コメントはまだありません。
このエントリーにコメントしてみましょう。

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

大規模言語モデルRWKVをローカルPCで試す｜Ko Onuma

清水亮さんが、RWKVを試してたので俺も試してみた。この時の清水さんのマシンは、A6000積んでる(VRAM48... 清水亮さんが、RWKVを試してたので俺も試してみた。この時の清水さんのマシンは、A6000積んでる(VRAM48GB)逸般のご家庭用モンスターマシンなので、そのまま動く。そらそうよ。というわけで、一般のご家庭用ゲーミングPCでも動くように試してみた。ちなみに試した環境はWindowsのWSLのubuntu上。マシンのメモリは64GB。ubuntuには48GB割当。 GPUはRTX3090(VRAM 24GB)。まずはChatRWKVをgitでcloneする。 git clone https://github.com/BlinkDL/ChatRWKV次にモデルをダウンロードする。 14Bを使うことにした。 ChatRWKV/v2フォルダにダウンロードしてきたモデルファイルを突っ込む。今回は最新版の RWKV-4-Pile-14B-20230313-ctx8192-test1050

ブックマークしたユーザー

cutc-mt2023/05/01
einherjar2023/04/09
kasahi2023/04/02
korin2023/03/29
Sinn82023/03/29
NANImono2023/03/29
yojik2023/03/29
kybernetes2023/03/29
keita17142023/03/29
mstk_knife2023/03/29
asyst2023/03/29
sakito09022023/03/29
dhesusan46492023/03/29
paradoxparanoic2023/03/29
unfini2023/03/29
iwata_n2023/03/29
mouri452023/03/29
yuiseki2023/03/29

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx