130億 = 13B。量子化した場合6GBで動作するライン。ChatGPTはビデオメモリ使用量が数百GBなので比較にはならない。この程度で商用化を目指しているというだけのことで、何か海外勢を超えたわけではない。

puhu208n のブックマーク 2023/07/06 16:34

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4738933336613601093/comment/puhu208n" data-user-id="puhu208n" data-entry-url="https://b.hatena.ne.jp/entry/s/pc.watch.impress.co.jp/docs/news/1514343.html" data-original-href="https://pc.watch.impress.co.jp/docs/news/1514343.html" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fpc.watch.impress.co.jp%2Fdocs%2Fnews%2F1514343.html" data-user-icon="/users/puhu208n/profile.png">NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM</a><br><p style="clear: left">130億 = 13B。量子化した場合6GBで動作するライン。ChatGPTはビデオメモリ使用量が数百GBなので比較にはならない。この程度で商用化を目指しているというだけのことで、何か海外勢を超えたわけではない。</p><a class="datetime" href="https://b.hatena.ne.jp/puhu208n/20230706#bookmark-4738933336613601093"><span class="datetime-body">2023/07/06 16:34</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM

pc.watch.impress.co.jp2023/07/06

203 人がブックマーク・32 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

NEC、「標準的GPU 1基で動く」世界トップクラスの日本語LLM

はてなブックマーク

公式Twitter

はてなのサービス