Sequence to Sequence Learning with Neural Networks
Sequence to Sequence Learning with Neural Networks Ilya Sutskever Google ilyasu@google.com Oriol Vinyals Google vinyals@google.com Quoc V. Le Google qvl@google.com Abstract Deep Neural Networks (DNNs) are powerful models that have achieved excel- lent performance on difficult learning tasks. Although DNNs work well whenever large labeled training sets are available, they cannot be used to map sequ
A Neural Conversational Model
arXiv:1506.05869v3 [cs.CL] 22 Jul 2015 A Neural Conversational Model Oriol Vinyals VINYALS@GOOGLE.COM Google Quoc V. Le QVL@GOOGLE.COM Google Abstract Conversational modeling is an important task in natural language understanding and machine in- telligence. Although previous approaches ex- ist, they are often restricted to specific domains (e.g., booking an airline ticket) and require hand- crafte
【論文読み】A Neural Conversational Model - Qiita
どんなもの？ sequence2sequenceモデルを対話に使ったシンプルなモデルで対話を実現した。 先行研究と比べてどこがすごい？ 従来の対話モデリングのアプローチは、特定のドメイン(例:飛行機のチケット予約)に対してであり、手でルールを書く必要があった。提案するsequence2sequenceモデルではend-to-endで学習を行うことができ、ルールもほとんど書く必要がない。Noisyなドメインでも検証。 技術や手法のキモはどこ？ sequence2sequenceモデルを使うことで、与えられた発話、あるいは発話履歴から次の発話を予測する。 どうやって有効だと検証した？ クローズドメインのデータセットとオープンドメインのデータセットを使って学習し、作成したモデルについて人間が評価した。 なお、データセットについてはそれぞれ以下の通り: クローズドメイン: IT Helpdesk
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Of course. There is now a Hacker News for deep learning
How convolutional neural networks see the world
How to Start Learning Deep Learning | Hacker News
One-shot Learning with Memory-Augmented Neural Networks