“と特定のタスクやドメインへの適応(ファインチューニング)が自然言語処理において重要なパラダイムとなっています。GPT-3などの超大規模な言語モデルが相次ぎ発表され、様々なベンチマークでSOTAとなり、幅広い実世界

hironobu-s のブックマーク 2023/03/27 12:03

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4732752884621057732/comment/hironobu-s" data-user-id="hironobu-s" data-entry-url="https://b.hatena.ne.jp/entry/s/engineering.linecorp.com/ja/blog/lora-tuning-for-japanese-model" data-original-href="https://engineering.linecorp.com/ja/blog/lora-tuning-for-japanese-model" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fengineering.linecorp.com%2Fja%2Fblog%2Flora-tuning-for-japanese-model" data-user-icon="/users/hironobu-s/profile.png">【インターンレポート】6.7B日本語モデルに対するLoRAチューニング</a><br><p style="clear: left">“と特定のタスクやドメインへの適応(ファインチューニング)が自然言語処理において重要なパラダイムとなっています。GPT-3などの超大規模な言語モデルが相次ぎ発表され、様々なベンチマークでSOTAとなり、幅広い実世界</p><a class="datetime" href="https://b.hatena.ne.jp/hironobu-s/20230327#bookmark-4732752884621057732"><span class="datetime-body">2023/03/27 12:03</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

【インターンレポート】6.7B日本語モデルに対するLoRAチューニング

engineering.linecorp.com2023/02/23

以下で今回使用する三つのタスクについて紹介します。 XL-Sum：2021年に公開された44言語を含むニュース要約データセットです。BBCの記事の本文やヘッドラインの要約文から作られていて、本文から要約文を生成す...

15 人がブックマーク・1 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

【インターンレポート】6.7B日本語モデルに対するLoRAチューニング

はてなブックマーク

公式Twitter

はてなのサービス