エントリーの編集
![loading...](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/common/loading@2x.gif)
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
【NLP】2020年に生まれたBERTの派生形まとめ
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
![アプリのスクリーンショット](https://b.st-hatena.com/bdefb8944296a0957e54cebcfefc25c4dcff9f5f/images/v4/public/entry/app-screenshot.png)
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
【NLP】2020年に生まれたBERTの派生形まとめ
Bertとその派生(Ernie)。尚、派生の方が人気があると思われる。国際学会で採択された’○○BERT’、’BERT○○’... Bertとその派生(Ernie)。尚、派生の方が人気があると思われる。国際学会で採択された’○○BERT’、’BERT○○’と名付けられたものをまとめました。全部で10個くらいはあるんじゃないかって?甘いです。 タイトル、採択された学会、簡単な説明を載せています。 元論文を読みたい場合、各論文のタイトルをクリックしてください。 K-BERT: Enabling Language Representation with Knowledge Graph AAAI 2020 BERTにナレッジグラフを接続することで、ドメイン固有タスクでの精度向上を目指した。ナレッジグラフは完全外付けなので事前学習済みBERTをそのまま使用できる。3つの専門分野でBERTを大きく上回った。SensEmBERT: Context-Enhanced Sense Embeddings for Multilingual