はてなブックマーク

BERTとはBERTは、Bidirectional Encoder Representations from Transformers の頭文字をとったディープラーニングモデルです。 これまでのディープラーニングによる自然言語処理では、 注目単語の前方か後方かどちらか１方向の文脈情報の使用のみで学習されていました。 BERTの特徴の１つは、注目する単語の、前後の文脈の両方（Bidirectional）について学習している点にあるということです。 今後どのように応用されていきそうか興味が湧いたので、 どんなデータセットどんなタスクどのくらいの性能が報告されたのかを見てみました。 BERTは、多様なデータセットで評価されていましたこれまでの自然言語処理の多くは、タスクごとに学習を行い性能を評価することが多いです。 それに対して、BERTでは、タスクごとに区別することなく適用して、どのタスクにも

時系列（データ）とは、時間とともに変化するデータのことです。 時系列分析と呼ばれる手法を使うことで、過去の分析や未来予測が可能です。 時系列分析と関わりが深い分野には、統計解析やデータマイニング、機械学習、人工知能などがあります。 しかし時系列分析では、これらの分野と共通するアイデアだけでなく、 独自の考え方や方法論も開発されています。 例えば、時系列分析では、 自己相関自己回帰モデルトレンド周期変動季節変動ホワイトノイズなどの独自概念があります。 また、時系列分析は大きく分けて、自己回帰モデルなどの探索的手法と状態空間モデルなどの確率的手法に分けることができ、それぞれに長所短所があります。 なので、自分のデータを分析する時には、それらを把握した上で実践していくことで、よりよい結果を出すことが可能となります。 そこで、本記事では、上記の統計学や人工知能、マイニングなどを学んだことがある方も