タグ

2017年6月19日のブックマーク (8件)

  • 機械学習で抑えておくべき損失関数(回帰編) - HELLO CYBERNETICS

    はじめに ニューラルネットワーク 損失関数を考えるモチベーション 回帰の損失関数 色々な損失関数 二乗損失 分位損失 Huber損失 感度損失(ε-許容損失) 損失関数の図示 二乗損失 分位損失 Huber損失 ε-感度損失(ε-許容損失) 比較 損失関数の使い分け1 損失関数の使い分け2 損失関数の使い分け3 最後に 分類に関する損失関数 はじめに 機械学習における教師あり学習では、入力に対してパラメータを用いて関数を構築し、正解データに対して損失を定義し、これを最小化する手続きを取ります。 損失を、色々なとの組に対して計算し、その総和が最小化されるようにを決めることを学習と呼びます。これにより未知のデータを入力した時に、それに対する正解をが出力してくれることを期待するのです。 学習がの最小化という目標に従っている以上、このをどのような形にするのかが重要になるのは言うまでもありません。

    機械学習で抑えておくべき損失関数(回帰編) - HELLO CYBERNETICS
  • 【統計学】【R】分位点回帰を使ってみる。 - Qiita

    分位点回帰、という手法のご紹介です。 通常の回帰直線は、$x$が与えられた時の$y$の条件付き期待値(平均)と解釈できますが、分位点回帰では、25%分位点、とか95%分位点、等で使われる "分位点" をベースに回帰直線を引いてみようというものです。 何はともあれ、まずはこれを使ってグラフを書いて可視化を試みます。 1.誤差の分散が説明変数に依存した正規分布の例 説明変数$x$が小さいところでは誤差の分散が小さく、大きいところでは誤差の分散も大きくなるようなケースです。そんなデータを生成して試しています。 分位点回帰では、分位点ごとに異なる $\beta$が設定されるので、それぞれ傾きが異なります。 分位点回帰の実行結果 下から順に5%, 10%, 25%, 75%, 90%, 95%の分位点回帰直線と、通常の回帰直線です。 まずはデータを生成して散布図を描きます。 # 未インストールならイ

    【統計学】【R】分位点回帰を使ってみる。 - Qiita
  • 脳は11次元構造を持つ多元宇宙だった! “高次元ニューロン”の動きに科学者「誰も想像していなかった世界」 - TOCANA

    人体最後のフロンティア――脳。世界中で研究が進み、脳に関する多くの新事実が明らかになる中、またしても驚愕のニュースが舞い込んできた。なんと、人間の脳が宇宙と同じ高次元体であることが最新の研究で判明、最大で11次元の構造を持つというのだ! ■科学者も驚愕、脳は11次元体だった! 人間の脳は860億個のニューロンを持ち、それらが互いに複雑に接続することで、意識や思考を生み出していると言われている。これほど複雑な構造体を紐解くことは容易ではなく、多くの科学者らの普段の努力にもかかわらず、その全貌は未だ解明されていない。だが、複雑に見えてしまうのは、これまで脳を3次元空間で捉えてきたからかもしれない。 科学ニュース「Science Alert」(6月13日付)によると、スイスの研究チーム「Blue Brain Project」は、脳の高次元の働きを「代数的位相幾何学」という、これまで脳科学の分野で

    脳は11次元構造を持つ多元宇宙だった! “高次元ニューロン”の動きに科学者「誰も想像していなかった世界」 - TOCANA
  • RMT、ポケストップ勝手設置、ゲーム実況…って違法? 注目の法律家がネットで論争の話題を丁寧に回答してみた【『法のデザイン』水野祐氏インタビュー】

    RMT、ポケストップ勝手設置、ゲーム実況…って違法? 注目の法律家がネットで論争の話題を丁寧に回答してみた【『法のデザイン』水野祐氏インタビュー】 今年2月に発売されるやいなや、Amazon法学カテゴリでランキング1位になり、法律家のみならずあらゆるジャンルのクリエイターの間で大いに話題となった一冊のがある。 タイトルは『法のデザイン―創造性とイノベーションは法によって加速する』。法律家の立場からさまざまなジャンルのクリエイターをサポートしている水野祐弁護士による、初の単著だ。その後も版を重ね、6月時点で第四刷となっている。 『法のデザイン―創造性とイノベーションは法によって加速する』(フィルムアート社・2017) (画像はAmazonより) 法とは単に「自由を規制し、イノベーションを阻害する」だけのものではなく、むしろルールの作り方次第でイノベーションを加速するための潤滑油にもなるのだ

    RMT、ポケストップ勝手設置、ゲーム実況…って違法? 注目の法律家がネットで論争の話題を丁寧に回答してみた【『法のデザイン』水野祐氏インタビュー】
  • 技術なきマネジメントの衰退とその対策 - メソッド屋のブログ

    今回は、マイクロソフトにいて自分が感じているIT業界の大きなスタイルの変化の兆候とその対策について書いてみた。今回もいつも通り、単に自分の意見をシェアしているだけであって、他の人にどうこうしろと言いたいわけではない。ただ、日IT業界が米国に追いつき、追い越すための議論のきっかけになるといいなと思っている。自分も楽しみながらも、もがいていることと、そこで見えた光について書いてみたい。 世界は「技術力」の重視に向かっている 私のキャリアは、某大手SIerを12年勤めた後、ITコンサルティング企業に3年在籍して、主に超上流を実践した。その後独立し、ビジネスモデリングから、アジャイルや、DevOpsの導入支援、マネジメント、開発などを実施していた。 私がマイクロソフトを受けてみようと思ったのは、友人からの推薦の要素が大きかったのだが、その背景では、海外で勤務したいという希望があったのと、「技術

    技術なきマネジメントの衰退とその対策 - メソッド屋のブログ
  • AudioSet

    A sound vocabulary and datasetAudioSet consists of an expanding ontology of 632 audio event classes and a collection of 2,084,320 human-labeled 10-second sound clips drawn from YouTube videos. The ontology is specified as a hierarchical graph of event categories, covering a wide range of human and animal sounds, musical instruments and genres, and common everyday environmental sounds. By releasing

    AudioSet
  • BatchNormalizationの初出論文メモ - 緑茶思考ブログ

    Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift arXiv:https://arxiv.org/abs/1502.03167 Internal Covariance Shiftの問題 ニューラルネットワークでは,入力となるデータの分布が白色化されていると学習が早く進む. 特徴を無相関化し,平均0,分散1とすることは画像処理では特によく行う. しかし,階層的なニューラルネットでは,入力層での入力データが白色化されていたとしても, 重みパラメータは更新されていくため,後層では常に分布が変化する入力をもとに学習することになる. せっかくパラメータを学習しても、新たな入力分布に合わせて再適応させなければならず、無駄となってしまう。 この現象を著者らは, inte

    BatchNormalizationの初出論文メモ - 緑茶思考ブログ
  • 並行宇宙の初証明なるか?「『コールドスポット』がもう一つの宇宙と衝突してできた穴」だという説が発表される | 不思議.net - 5ch(2ch)まとめサイト

    コールドスポットとは、2004年に発見された周囲の宇宙空間より異常に冷たい巨大な領域のことだ。宇宙マイクロ波背景放射(Cosmic Microwave Background、CMB)の分布の観測時に発見された。 この宇宙空間を満たす宇宙マイクロ波背景放射の存在は、お馴染みの「ビックバン理論」の最重要証拠の一つだが、これによって宇宙には平均10万分の1ほどの温度ムラがあることがわかっている。そしてその中でも異常に冷たく大きな領域、それがコールドスポットである。 コールドスポットは、130億年前に宇宙が誕生したときに出来たものだ。2004年、NASAのWMAP衛星で発見され、2013年、ESAのプランク計画で確認された。このスポットでは、宇宙背景放射の温度が周囲よりも摂氏0.00015度だけ低い。 このコールドスポットと呼ばれる奇妙な領域がなぜ出来たのかについて、科学者たちは長いこと論争を続け

    並行宇宙の初証明なるか?「『コールドスポット』がもう一つの宇宙と衝突してできた穴」だという説が発表される | 不思議.net - 5ch(2ch)まとめサイト