Encoder-decoderモデルとTeacher Forcing、Scheduled Sampling、Professor Forcing
Encoder-decoderモデルとTeacher Forcing、Scheduled Sampling、Professor Forcing Encoder-decoderモデルとTeacher Forcing、それを拡張したScheduled Sampling、Professor Forcingについて簡単に書きました。 概要 Encoder-decoderモデルは、ソース系列をEncoderと呼ばれるLSTMを用いて固定長のベクトルに変換(Encode)し、Decoderと呼ばれる別のLSTMを用いてターゲット系列に近くなるように系列を生成するモデルです。もちろん、LSTMでなくてGRUでもいいです。機械翻訳のほか、文書要約や対話生成にも使われます。 Encoder-decoderモデルの概略図 Encoder ソース系列X=(x1,x2,…,xS)X = (x_1, x_2, \d
LSTMネットワークの概要 - Qiita
Christopher Olah氏のブログ記事 http://colah.github.io/posts/2015-08-Understanding-LSTMs/ の翻訳です。 翻訳の誤りなどあればご指摘お待ちしております。 リカレントニューラルネットワーク 人間は毎秒ゼロから思考を開始することはありません。このエッセイを読んでいる間、あなたは前の単語の理解に基づいて、各単語を理解します。すべてを捨てて、またゼロから思考を開始してはいません。あなたの思考は持続性を持っています。 従来のニューラルネットワークは、これを行うことができません、それは大きな欠点のように思えます。たとえば、映画の中の各時点でどのような種類の出来事が起こっているかを分類したいと想像してください。従来のニューラルネットワークが、映画の前の出来事についての推論を後のものに教えるためにどのように使用できるかは不明です。 リ
P2Pの専門知識ゼロから独自DHTを実装評価するまでの学習方法と参考資料まとめ - 情報科学屋さんを目指す人のメモ（FC2ブログ版）
何かのやり方や、問題の解決方法をどんどんメモするブログ。そんな大学院生の活動「キャッシュ」に誰かがヒットしてくれることを祈って。 P2P、特にDHTの前提知識が無い状態から、オリジナルDHTアルゴリズムを実装・評価できるようになるまでの学習方法と参考資料をまとめました。 基本的なアルゴリズムの仕組みから、実装評価に用いるツールキットの使い方までを短期間で学習することが出来ます。 「P2Pに関する卒論を書こうと思っている人」や「P2Pアプリケーションの開発前に、アルゴリズムをテストしたい人」、「なんとなくP2Pアルゴリズムに興味が出た人」などにぴったりだと思います。また、研究室での後輩教育用資料にするのも良いと思います。実際に使いましたし。 ここで紹介する資料一覧は以下の通りです。 資料１：「ChordアルゴリズムによるDHT入門」 資料１ーオプション１：「DHTアルゴリズムSymphony
分散型のハイパーメディアプロトコル「IPFS」とは？
はじめに HTTP（Hypertext Transfer Protocol）はブラウザと併用されることで、インターネット上のファイル転送プロトコルのデファクトスタンダードになりました。ところが、現在のインターネットは、中央集権化などの課題を抱えています。 本記事で紹介する「IPFS」（InterPlanetary File System）は、HTTPの課題をクリアし、補完・代替しようと開発されているプロトコルです（2020年5月7日現在、ベータ版。v0.5）。本記事では、未来の分散型Web（いわゆる「Web3」）のインフラとなり得るIPFSについて紹介していきます。 P2Pハイパーメディアプロトコル「IPFS」とは？ IPFSとは、分散型のファイルストレージを実現するために開発されているP2P（Peer to Peer）型のハイパーメディアプロトコルです。IPFSはオープンソースプロジェク
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
3世代あるPoEは2003年に策定、最大15.4Wの「IEEE 802.3af」から【ネット新技術】