Skip Connections Eliminate Singularities
Skip connections made the training of very deep networks possible and have become an indispensable component in a variety of neural architectures. A completely satisfactory explanation for their success remains elusive. Here, we present a novel explanation for the benefits of skip connections in training very deep networks. The difficulty of training deep networks is partly due to the singularitie
ブログにも書ける整数論的特異点論 - マイペース数学者のブログ
2016 - 10 - 13 ブログにも書ける整数論的特異点論 数学 最近書いていた新しい論文がひとまず完成したので、 arXiv にアップロードした。 https://arxiv.org/abs/1610.03593 論文タイトルはVojta's conjecture for singular varieties （特異 代数多様体 に対するVojtaの予想）。最近は、少なくとも数学では、論文を書いたら arXiv などの プレプリント ・サーバーにアップロードして、世界中の人が見られるようにして、その後、雑誌に投稿して、査読を経て数年後に紙媒体などで出版されるというのが一般的な流れになっている。前の論文を arXiv にアップしたのが去年の5月だったので、しばらく時間があいてしまった。 数学の研究成果を説明するには、普通たくさんの抽象的な理論や概念が必要となるので、専門家以外に説明する
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://www4.math.sci.osaka-u.ac.jp/~takehikoyasuda/pdfs/AlgYoung.pdf
Log canonical threshold of du Val singularities
https://www.math.sci.hokudai.ac.jp/~nakamura/Lands050326.pdf
http://www.f.waseda.jp/taniyama/mathsciknot2021/reports/37-ishikawa.pdf
DSLT 1. The RLCT Measures the Effective Dimension of Neural Networks — LessWrong
DSLT 0. Distilling Singular Learning Theory — LessWrong
https://www.math.kyoto-u.ac.jp/~kawaguch/pdf/14AlgSym.pdf
Watanabe 6.3 - Speaker Deck
学習理論よ 何処へ
http://www.math.sci.hokudai.ac.jp/~ohmoto/Papers/suugakuohmoto0409.pdf