piqcy @icoxfog417 言語モデルのタスクで、CNNでLSTM同等以上の精度を出したという話。畳み込んだ結果をGRUに近い機構で処理し、過去の情報が消失しないようにしている。Google Billion Wordのデータセットでは、LSTMと同等の精度を出す一方計算効率が20倍程度改善された。 twitter.com/Smerity/status… 2017-01-01 13:23:09 Smerity @Smerity Gated Convolutional Networks beat LSTM on LM (WikiText-103 & One Billion LM for single GPU), faster than CuDNN LSTM arxiv.org/abs/1612.08083 pic.twitter.com/UBplrTjEAv 2016-12-26 15
![機械学習関連ニュース2016](https://cdn-ak-scissors.b.st-hatena.com/image/square/e396142328d2149224082c72d383466f83aec2b9/height=288;version=1;width=512/https%3A%2F%2Fs.togetter.com%2Fogp2%2Fc271f39b09e0a2a5e7a0fd655a55a076-1200x630.png)