GPT-3，GitHubで訓練したGPT-2，GitHubを含むPileで訓練したGPT-Neoの3モデルをコード生成ベンチマークAPPSで比較した研究．高価なGPT-3を使うより公開モデルを自前で訓練する方がコスパいい場合もまだ多そう

GPT-3
GPT-2

Ryobot のブックマーク 2021/05/23 02:44

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4703007257973785122/comment/Ryobot" data-user-id="Ryobot" data-entry-url="https://b.hatena.ne.jp/entry/s/arxiv.org/abs/2105.09938" data-original-href="https://arxiv.org/abs/2105.09938" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Farxiv.org%2Fabs%2F2105.09938" data-user-icon="/users/Ryobot/profile.png">Measuring Coding Challenge Competence With APPS</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/GPT-3">GPT-3</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/GPT-2">GPT-2</a>]</li></ul><br><p style="clear: left">GPT-3，GitHubで訓練したGPT-2，GitHubを含むPileで訓練したGPT-Neoの3モデルをコード生成ベンチマークAPPSで比較した研究．高価なGPT-3を使うより公開モデルを自前で訓練する方がコスパいい場合もまだ多そう</p><a class="datetime" href="https://b.hatena.ne.jp/Ryobot/20210523#bookmark-4703007257973785122"><span class="datetime-body">2021/05/23 02:44</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！