ニューラルネットワークの中でもリカレントニューラルネットワーク(RNN)は、言語モデリングや機械翻訳、質疑応答といった言語理解タスクに対する主要なアプローチ方法と見なされています。そんな中、GoogleがRNNよりも言語理解タスクに秀でた新しいニューラルネットワークアーキテクチャ「Transformer」を開発しています。 Research Blog: Transformer: A Novel Neural Network Architecture for Language Understanding https://research.googleblog.com/2017/08/transformer-novel-neural-network.html Googleによる言語理解タスクに秀でたニューラルネットワークアーキテクチャの「Transformer」は、英語からドイツ語、英語からフ
![より高い品質の翻訳を実現するGoogleの「Transformer」がRNNやCNNをしのぐレベルに](https://cdn-ak-scissors.b.st-hatena.com/image/square/e4a37e4a36dedbd7d73f9cb1a974f49fa0550430/height=288;version=1;width=512/https%3A%2F%2Fi.gzn.jp%2Fimg%2F2017%2F09%2F01%2Ftransformer-neural-network-language-understanding%2F00_m.png)