理屈編 問題設定 損失関数 損失を小さくする勾配法 損失の減少はいつ終わるのか 学習がうまくいく更新の大きさ 学習がうまくいかない更新の大きさ 実践編 実行環境 必要なライブラリの準備 問題設定 モデルの設計と損失関数 tf.keras.Modelクラスでモデルの雛形を作る 損失関数 勾配の計算 パラメータの更新 実験 初期状態のモデル 学習後のモデル 本当に学習は上手く行ったのか コード全体 多項式フィッティングへの発展 理屈編 問題設定 ここでは最も単純な線形回帰である単回帰について説明します。 これは、入力変数がスカラーで $x$ 1つ、出力変数もスカラーで $y$ 1つのときに、 $x$ と $y$ の関係を一次式で表そうというものです。 データセット $D={(x_1, y_1), (x_2, y_2), \cdots, (x_N, y_N)}$がある時に( $x_i, y_i$
