タグ

ブックマーク / tech.fusic.co.jp (1)

  • 汎用言語表現モデルBERTのファインチューニングをやってみる

    こんにちは、嶋生です。 この記事はFusic Advent Calendar 2018の14日目の記事になります。 昨日は吉野のNuxt + Laravelプロジェクトのi18n対応でした。フロントエンドとサーバサイドのハイブリッドなi18n対応、面白いですよねー! さて、以下題です。 ちなみに自然言語系の領域はまだまだ勉強不足でして、間違っている説明等があるかもしれません🙇 その場合はご指摘いただけると大変助かります。 やったこと 公式のBERTを動かしてみる 日語の分類タスクでファインチューニングしてみた 記事のターゲット BERTに興味がある人、日語タスクでどんな精度が出るのか知りたい人 自然言語系の研究に興味がある人 実験とか好きな人 BERTって? 少し前にディープラーニング界隈・自然言語界隈で大変話題になった新しいモデルです。 ざっくりいうと、BERTっていうすごい

    汎用言語表現モデルBERTのファインチューニングをやってみる
  • 1