”RWKVは構造の中でレイヤーを分けることで、RNNの前のノードの計算が終わる前に次のノードの計算を始めることが可能”

deejayroka のブックマーク 2023/07/11 13:21

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4739091497257494949/comment/deejayroka" data-user-id="deejayroka" data-entry-url="https://b.hatena.ne.jp/entry/s/gigazine.net/news/20230709-rwkv-language-model/" data-original-href="https://gigazine.net/news/20230709-rwkv-language-model/" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fgigazine.net%2Fnews%2F20230709-rwkv-language-model%2F" data-user-icon="/users/deejayroka/profile.png">従来の大規模言語モデルの制約だった「入力量の限界」を取り払った「RWKV」は一体どんな言語モデルなのか？</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD">人工知能</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/techfeed">techfeed</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/ChatGPT">ChatGPT</a>]</li></ul><br><p style="clear: left">”RWKVは構造の中でレイヤーを分けることで、RNNの前のノードの計算が終わる前に次のノードの計算を始めることが可能”</p><a class="datetime" href="https://b.hatena.ne.jp/deejayroka/20230711#bookmark-4739091497257494949"><span class="datetime-body">2023/07/11 13:21</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！