微分可能な神経機械? Google DeepMindがNatureに投稿した論文「Hybrid computing using a neural network with dynamic external memory」が、なんだかヤバそうな香りがします。 公式の紹介記事「Differentiable neural computers」では、プラトンの記憶論から話が始まりますし、論文では脳の記憶を司る海馬に喩えていたりして、なかなか格調高いです。単なるニューラルネットワークの性能改善に留まらず、哲学や神経科学の観点からも理想の人工知能に一歩近づくことができたよ、これは新しいコンピュータの在り方の発明なのではないか、という気概が感じられます。 仕組みとしては流行りのAttentionという概念が入っていて、メモリを表す行列と、それを選択的に操作しながらベクトルを入出力するコントローラがありま
![メモリを操作するRNNでソートアルゴリズム(可変長&順序フラグあり)を機械学習できたよっ! - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/be8022629b60c20dcb6615436214b5df33d00874/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JUUzJTgzJUExJUUzJTgzJUEyJUUzJTgzJUFBJUUzJTgyJTkyJUU2JTkzJThEJUU0JUJEJTlDJUUzJTgxJTk5JUUzJTgyJThCUk5OJUUzJTgxJUE3JUUzJTgyJUJEJUUzJTgzJUJDJUUzJTgzJTg4JUUzJTgyJUEyJUUzJTgzJUFCJUUzJTgyJUI0JUUzJTgzJUFBJUUzJTgyJUJBJUUzJTgzJUEwJUVGJUJDJTg4JUU1JThGJUFGJUU1JUE0JTg5JUU5JTk1JUI3JUVGJUJDJTg2JUU5JUEwJTg2JUU1JUJBJThGJUUzJTgzJTk1JUUzJTgzJUE5JUUzJTgyJUIwJUUzJTgxJTgyJUUzJTgyJThBJUVGJUJDJTg5JUUzJTgyJTkyJUU2JUE5JTlGJUU2JUEyJUIwJUU1JUFEJUE2JUU3JUJGJTkyJUUzJTgxJUE3JUUzJTgxJThEJUUzJTgxJTlGJUUzJTgyJTg4JUUzJTgxJUEzJUVGJUJDJTgxJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LWNsaXA9ZWxsaXBzaXMmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz01YWY4NzIwOGZhYjAxMzIxMTQ1YThkNTI0Njg1NWNjYg%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwcGl5bzcmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPTYyYWQzODM1MjUxOTM0OGY4NjFjNGRlNzI2MWRiMmQz%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3Da0e1ebf53dc6bc83d11c99e82e74eba0)