“RTX3060(12GB)で、Dockerを使うことで簡単に動かせました。日本語も使えますが一番小さいモデルだったので頭がよくない。<-本体メモリ256GBが必要なところ32GBしか使っていない。結果が悲惨なのは当然だ。”

yarumato のブックマーク 2023/02/27 09:02

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4732901619948307140/comment/yarumato" data-user-id="yarumato" data-entry-url="https://b.hatena.ne.jp/entry/s/zenn.dev/karaage0703/articles/de7045e9792623" data-original-href="https://zenn.dev/karaage0703/articles/de7045e9792623" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fzenn.dev%2Fkaraage0703%2Farticles%2Fde7045e9792623" data-user-icon="/users/yarumato/profile.png">自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす</a><br><p style="clear: left">“RTX3060(12GB)で、Dockerを使うことで簡単に動かせました。日本語も使えますが一番小さいモデルだったので頭がよくない。&lt;-本体メモリ256GBが必要なところ32GBしか使っていない。結果が悲惨なのは当然だ。”</p><a class="datetime" href="https://b.hatena.ne.jp/yarumato/20230227#bookmark-4732901619948307140"><span class="datetime-body">2023/02/27 09:02</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

zenn.dev/karaage07032023/02/26

自宅で動くChatGPTと噂のFlexGenを試す shi3zさんが興奮して動かしていたFlexGen 関係する記事は以下ツヨツヨGPUが無いと動かないと思っていたのですが、タイムラインでミクミンPさんが、RTX3060でFlexGenを動か...

378 人がブックマーク・31 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす

はてなブックマーク

公式Twitter

はてなのサービス