エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Chat with RTXを少し触ってみた|夢望庵 / Mubou-an
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Chat with RTXを少し触ってみた|夢望庵 / Mubou-an
nVIDIAが配布しはじめた、GeForce RTX30/40シリーズの8GB以上のVRAMを持つグラフィックカードを搭載した... nVIDIAが配布しはじめた、GeForce RTX30/40シリーズの8GB以上のVRAMを持つグラフィックカードを搭載したPCで、ローカルで文章生成AIを実行できるアプリ。 日本語版はまだだけど、英語で使えたので触ってみよう。 ダウンロードとインストールは他にもやってる方がnoteでも見られるので略。35GBダウンロードする時間と、そのZIPの解凍と、出てきたインストーラーでさらにモデルのダウンロードがあって、でかなり時間がかかるぞ。 それから、うちのRTX3060 12GBだと、モデルはMistral 7B int4しか選べなかった。まあ仕方ない。 学習させてみたい 7BモデルのLLMだったらもうすでに使えることは使えるんだけど、ちょっと私の知識が及ばず、モデルに追加で情報を学習させるところまでやれてなかった。 しかしChat with RTXは学習が簡単だという。 で、インストール