“Switch Transformers は、マスク言語モデリング (MLM) タスクでトレーニングされた Mixture of Experts (MoE) モデルです。”

misshiki のブックマーク 2023/11/27 16:15

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4745334470863903727/comment/misshiki" data-user-id="misshiki" data-entry-url="https://b.hatena.ne.jp/entry/s/huggingface.co/google/switch-c-2048" data-original-href="https://huggingface.co/google/switch-c-2048" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fhuggingface.co%2Fgoogle%2Fswitch-c-2048" data-user-icon="/users/misshiki/profile.png">google/switch-c-2048 · Hugging Face</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/Google">Google</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86">自然言語処理</a>]</li></ul><br><p style="clear: left">“Switch Transformers は、マスク言語モデリング (MLM) タスクでトレーニングされた Mixture of Experts (MoE) モデルです。”</p><a class="datetime" href="https://b.hatena.ne.jp/misshiki/20231127#bookmark-4745334470863903727"><span class="datetime-body">2023/11/27 16:15</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

google/switch-c-2048 · Hugging Face

huggingface.co2023/11/21

Model Card for Switch Transf ormers C - 2048 experts (1.6T parameters for 3.1 TB) Table of Contents TL;DR Model Details Usage Uses Bias, Risks, and Limitations Training Details Evaluation Environmen...

17 人がブックマーク・2 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

google/switch-c-2048 · Hugging Face

はてなブックマーク

公式Twitter

はてなのサービス