正則化 - Wikipedia
数学・統計学・計算機科学において、特に機械学習と逆問題において、正則化（せいそくか、英: regularization）とは、不良設定問題を解いたり過学習を防いだりするために、情報を追加する手法である。モデルの複雑さに罰則を科すために導入され、なめらかでないことに罰則をかけたり、パラメータのノルムの大きさに罰則をかけたりする。 正則化の理論的正当化はオッカムの剃刀にある。ベイジアンの観点では、多くの正則化の手法は、モデルのパラメータの事前情報にあたる。 統計および機械学習において、正則化はモデルのパラメータの学習に使われ、特に過学習を防ぎ、汎化能力を高めるために使われる。 機械学習において最も一般的なのは L1 正則化 (p=1) と L2 正則化 (p=2) である。損失関数 の代わりに、 を使用する。 はパラメータのベクトルで、 は L1 ノルム (p=1) や L2 ノルム (p=2
データベースは正規化しない方がよい？ : makoto_fujimotoのblog
データベースを勉強する機会があると、必ずデータの正規化について学びます。 正規化とはデータの冗長性を排除したりデータのメンテナンス性を高める設計手法で、かつては高価だった記憶装置の使用コストを削減する目的もありました。またインデックスの効果が得られやすいので、統計やリレーションに使用する項目を正規化（コード化）しておくことでアプリケーションのパフォーマンスを上げることもできます。 しかしこれを"教科書通り"に行うと開発の生産性を低下させたり、まったく費用対効果が得られないケースが多くあります。 例えばアンケート（性別、都道府県、職業、氏名、媒体、好きなペット、個人情報承諾）を収集するようなデータベースを正規化手法を用いて構築した場合、実データは以下のようになります。 -------------------------------------------------- 0,12,3,"フジモ
逆問題 - Wikipedia
逆問題（ぎゃくもんだい、英: inverse problem）とは、数学・物理学の一分野であり、入力（原因）から出力（結果、観測）を求める問題を順問題（じゅんもんだい、英: direct problem）と呼び、その逆に出力から入力を推定する問題や入出力の関係性を推定する問題を逆問題と呼ぶ。 逆関数の問題であると解釈すると、紀元前から扱われている問題である。しかし歴史的には物理において順問題と逆問題は今の使われ方とは異なっていた。例えばニュートンの時代では物体の動きからその作用する力を導くことが順問題だとされ、作用する力から物体の軌道を導くことが逆問題だとされていた。順問題と逆問題の定義は実際曖昧で、時代や学問分野によって異なることが多い。一般的には1820年代にニールス・アーベルがヤコビの逆問題を研究したのが、逆問題の最初の研究とされる。アーベルは方程式の解の公式の研究でも有名だが、方程
)
Regularization (mathematics) - Wikipedia
The green and blue functions both incur zero loss on the given data points. A learned model can be induced to prefer the green function, which may generalize better to more points drawn from the underlying unknown distribution, by adjusting , the weight of the regularization term. In mathematics, statistics, finance,[1] and computer science, particularly in machine learning and inverse problems, r
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
)
Dilution (neural networks) - Wikipedia
Keras documentation: Core layers
