“LLMのモデルの応答速度の違いは、GPU等の環境差分がなければ以下２つの要因が考えられます。トークナイザーの処理モデルの処理”

deejayroka のブックマーク 2024/04/30 11:58

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4751940388034355040/comment/deejayroka" data-user-id="deejayroka" data-entry-url="https://b.hatena.ne.jp/entry/s/qiita.com/sergicalsix/items/5ceb9a3a0d11affb4b9a" data-original-href="https://qiita.com/sergicalsix/items/5ceb9a3a0d11affb4b9a" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fqiita.com%2Fsergicalsix%2Fitems%2F5ceb9a3a0d11affb4b9a" data-user-icon="/users/deejayroka/profile.png">Command R+はトークナイザーもすごかった - Qiita</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/qiita">qiita</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/LLM">LLM</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E3%82%B3%E3%83%9E%E3%83%B3%E3%83%89">コマンド</a>]</li></ul><br><p style="clear: left">“LLMのモデルの応答速度の違いは、GPU等の環境差分がなければ以下２つの要因が考えられます。 トークナイザーの処理 モデルの処理”</p><a class="datetime" href="https://b.hatena.ne.jp/deejayroka/20240430#bookmark-4751940388034355040"><span class="datetime-body">2024/04/30 11:58</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！