勾配法は本当に鞍点近傍にはまるのか？モース理論で考えてみる - Qiita
TL;DR 勾配法はほとんどのケースで極小点に収束する（鞍点には収束しない） この事実は力学系や最適化の分野ではよく知られているが，機械学習では新しい？ 数年前にバズった勾配法の比較動画は実際の学習現象を説明できていないかも 鞍点の近傍での振舞いで差がつく？ いや，そもそも鞍点近傍に流れ込まないかも 比較動画に登場した鞍点は，実際にはまず生じないタイプかも 機械学習にも役立つモース理論 ほとんどすべての関数はモース関数 モース関数の臨界点のタイプはわずか $d+1$ 種類（$d$ は定義域次元） 安定/不安定多様体とモース・スメール複体で勾配法の流れは分かる Monkey saddleはまず現れない（もし現れても簡単に消せる） 量的な問題に関しては，結局は実験するしかない この記事を書いたきっかけ 昨夜，ある論文を見かけて，ふとこんなツイートをした． ML業界，「勾配法が鞍点に収束する確率
あの取次最大手、本業赤字転落が激震！出版業界、ついに本格的崩壊開始の予兆
「なんじゃ、こりゃあ」 刑事ドラマの名作『太陽にほえろ！』のジーパン刑事こと、故松田優作ばりの叫び声を思わずあげてしまったのは、11月25日、出版卸業（取次）最大手の日本出版販売（日販）が2015年上半期中間決算（4～9月）を発表した日の夜だった。 筆者がその夜、目にしたのは、日販の「事業別損益内訳」という表で、そこには同社単体の上半期業績の数字が並べられていた。 ・売上高：2399億1800万円（前年比171億5200万円減） ・営業損益：3億300万円の赤字（同4億4800万円減） ・経常損益：1億3300万円の赤字（同4億6400万円減） なんと、日販の本業である「出版取次事業」が営業損益ベースで赤字になっていたのだ。しかも、本業が赤字になったのは、どうやら初めてというのだ。 2000年に京都の老舗書店・駸々堂書店の自己破産時に、創業以来初の最終赤字の決算（00年3月期）となったが、
作図系ツール・ライブラリまとめ
diag.md シーケンス図とかフローチャートをしごとで描画することになった場合、 テキストから生成できたら楽なので、それ系のツールまとめ GraphViz http://www.graphviz.org/ C製 Doxygen, Moinmoinなどと連携可能 ブロック図、クラス図、ネットワーク図など PNG, SVGなど 出力可能形式一覧 JavaScript（Emscripten）版もある。リアルタイムプレビュー出来て便利 https://github.com/mdaines/viz.js PlantUML Java製 シーケンス図, ユースケース図, クラス図, アクティビティ図, コンポーネント図, ステート図, デプロイ図, オブジェクト図などめっちゃたくさん作れる PNG, SVG, LaTeX, ASCII出力 なんとワイヤーフレームも作れる。アイコンとかも入れられる。 オ
NBA選手のクラッチシュートランキング作ったよー:ハムスター速報
NBA選手のクラッチシュートランキング作ったよー Tweet カテゴリ☆☆☆☆ NBA選手のダンクランキング http://hamusoku.com/archives/5951862.html NBA選手のブロックランキング http://hamusoku.com/archives/6123704.html 1 ：名前：以下、名無しにかわりましてVIPがお送りします：2011/10/15(土) 19:42:55.71 ID:AskzpPyU0 ダンクとブロックと同じでオールスター戦、プレシーズンゲームは除く 他にも1970年以前の試合、国際試合、学生時代の試合も除く 100位 ティム・ダンカン 2 ：名前：以下、名無しにかわりましてVIPがお送りします：2011/10/15(土) 19:45:25.16 ID:AskzpPyU0 99位 モリス・ピーターソン 3 ：名前
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
初心者にも分かりやすい『人の描き方』講座まとめ ｜ お絵かき速報！萌え絵上達法
人生を素敵に変える今年1年の究極のライフハック記事まとめ*ホームページを作る人のネタ帳