「期待検証性能（expected validation performance）」をもとにしたパラメータ探索の検証 - May the Neural Networks be with you
こんにちは@shunk031です。 温泉は素晴らしいですが、ホテルのインターネットが遅いと生きた心地がしないので人生難しいと感じています。 この記事は彌冨研 Advent Calendar 2019 19日目の記事です。 今回はAllenAiから公開されているハイパーパラメータ探索allentuneに実装されているアルゴリズムであるShow Your Work: Improved Reporting of Experimental Resultsを紹介します。 arxiv.org 背景および導入 期待検証性能 ハイパーパラメータ探索を行う際の推奨事項 再現性を担保するためのチェックリスト EMNLP2018におけるチェックリストの集計結果 おわりに 背景および導入 自然言語処理の研究において、しばしば提案手法が先行研究よりも優れたテストスコアを出すことによって提案手法の良さを実証するという
SIGNATE Student Cup 2020 [予測部門] 参加記 - MosaasoMの日記
はじめに 去年に引き続きSIGNATE学生コンペに出てました。 今年はNLPコンペです。 NLPか〜考察ゲーってよりはSOTAな手法をガチャガチャするゲームなりそうで辛いな〜と思いつつ参加しました。 案の定SOTAな手法をガチャガチャして、闇の中を彷徨う苦行をしてたら終わったんですが、NLP初心者だったのでそれでも学びが多くて良かったです。 結果 21位でした！public40位くらいからのShake Upだったので満足です。 ちなみにBERT-base-uncasedに分類ヘッド付けてBERTごとFinetuningしたものと,CountVector+LightGBMとSWEM-max+LightGBMの6:2:2のblendでした. 後述しますが不均衡なデータだったので、 BERTモデルはUnder-sampleしてrandom seed average(n=6), その他のLight
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
