では、今回は今まで見てきたモデルを中心に、自然言語処理の発展の歴史を確認していきたいと思います。 最近話題のBERTやその発展形であるXLNetなども歴史を追っていくと、どこがどうすごいのか、どういった経緯で考え出されたアイデアなのかということがわかり、より理解が深まると思います。 ニューラルネットワークによる自然言語処理の前知識 まず、直接的にニューラルネットワークを使った自然言語処理ではありませんが、非常に大きな影響を与えたモデルや考え方を予め説明しておきます。 時系列データ処理としての再帰的ニューラルネットワーク(Recurrent Neural Network; RNN)の誕生 - 1997年 時系列データにおいて将来の数値を予測するためのモデルとしてRNN(Recurrent Neural Network)というものが提案されました。これは、インプットを時系列の過去データとして将
![ニューラルネットワークを使った自然言語処理の歴史を理解する](https://cdn-ak-scissors.b.st-hatena.com/image/square/2b8815011d9d20c2f5412a113375443ef83cb954/height=288;version=1;width=512/https%3A%2F%2Fdata-analytics.fun%2Fwp-content%2Fuploads%2F2020%2F06%2Fbooks-2606859_1920.jpg)