はてなブックマーク

今回はGoogleが機械学習の学習や研究用に提供をしているColaboratoryを扱ってみます。 これまでのブログは、Jupyter Notebookで、ローカル環境のブラウザで、プログラムの動作確認をしていました。 ColaboratoryはGoogleのアカウントがあれば、ソフトウェアインストールなしで、Jupyter Notebookと同等な環境を使用できるので、非常に便利です。 Colaboratoryを使ってみる。 Googleアカウントでログインした状態で、Colaboratoryにアクセスしてみます。 ファイルメニューから「Python3のノートブックを新規作成」を選ぶと以下のような編集画面になります。 Jupyter Notebookと画面も操作性もほぼ同じです。 ノートでの解析処理は、ハードウェアアクセラレーターを使用することも可能です。 ランタイムメニューの「ランタイ

今回は、非線形の相関解析について取り上げて見ます。 これまでのブログでも相関解析は行なったきましたが、用いていた手法はピアソンの相関係数でした。 つまり、2つ以上の変数の”線形的”な関係の強弱を図る指標を用いていました。 今回は、非線形の相関関係を図れるMICという手法を用いて、相関の見え方がどう変化するかを見ていきます。 U字型の分布について 例えば、以下のようなプログラムで(x,y)の簡単なxの2乗関数のデータ分布を作って見ます。 計測したデータがこんな綺麗な分布になることは稀ですが、 実際に関数から作ったU字型の分布について、ピアソン相関を計算してみます。 ピアソン相関（Eは期待値） このような値が返ってきます。 ほぼ0のかなり小さな値で、相関が無いような結果が返ってきます。 明らかにX,Yについての関連があるデータに対しては、 相関を見出せる指標が欲しいところです。 U字型の分布の

初期値の取り方による学習推移の変化 プログラムは、現在以下のような形になっています。 隠れ層にそれぞれ、正規分布での乱数に0.01の係数で重み付けをしています。 この係数を、1.0, 0.1, 0.01, 0.001の4パターンで変化させた時の、 交差エントロピー誤差と、精度の変化をグラフで表示してみます。 OptimizerはシンプルなSGD（勾配法）を用います。 以下のような変化をします。 グラフのタイトルの「param=***」が係数に該当します。 グラフを見ていただくと、係数が大きいほど交差エントロピー誤差の減衰スピードは 早くなっています。 一方、Accuracy（精度）を見てみると、係数が大きい1.0の場合は 精度の向上スピードは緩やかです。 また、逆に係数が小さい0.001の場合については、精度向上の立ち上がりが遅れており こちらもあまり良い結果とは言えません。 交差エントロ

計算グラフではノードと矢印で計算過程を表現します。 上記の例は以下のような表現になります。 りんご100円の金額が、5個購入の「×5」のノードに流れ、さらに消費税の「×1.08」のノードに流れる、局所的な計算の伝播が行われる表現が「計算グラフ」です。 上記の表現では、入力パラメータはりんご1個でしたが、個数や消費税も入力パラメータと考えると、以下のような計算グラフで表現されます。 この表現ではノードが汎用的な乗算ノード「×」に変化しています。 また、追加で80円のみかんを3個買うような場合、以下のような表現になります。 このように、局所的な単純計算のノードで、計算結果を伝播していくモデルが 計算グラフという表現です。 計算グラフには、複雑な計算を単純な計算に紐解く効果と、各計算段階を保持できるメリットがあります。 ただそれだけだと、計算グラフを導入するメリットの実感は薄いかもしれません。

前回のブログでは、scikit-learnのdatasetsにある手書き文字データで分類器のパフォーマンスチェックを行いました。 今回は同じ手書き文字データを用いて、ニューラルネットワークで学習させるサンプルプログラムを作ってみます。

Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? こんにちは。 林@アイエンターです。 前回のブログでは、Pandasやデータ可視化用のSeabornを導入し、米国自動車株の解析を行いました。 今回は再びscikit-learnにフォーカスして、機械学習のクラスタリングで用いられる「k平均法（k-means）」で画像の減色処理を行ってみます。 また、今回は画像の扱いには「OpenCV」も使ってみることにします。 k平均法での画像減色 k平均法とはWikiに詳細が記載されておりますが、空間上の点群データをk個のグループに分類するアルゴリズムです。 アルゴリズムから、各点がどこのグループに

こんにちは。 林@アイエンターです。 前回のブログでは、Pythonのデータ解析ライブラリの「scikit-learn」での回帰分析をご紹介しました。 その際に、AnacondaというPythonパッケージをインストールしたわけですが、 今回はその中のPandasや、データ可視化用にSeabornを導入し、米国自動車株の解析を行ってみます。 株価データの読み込み まずは、jupyter notebookで解析をしていく際の基本ライブラリをインポートします。 時間を扱うため、datetimeモジュールと、外部からのデータ読み込みのため DataReaderを使用できるように準備します。 たとえば、「ゼネラルモーターズ」の過去１年分のデータをYahooサイトから読み込む処理を書いてみます。 ちなみに、ゼネラルモーターズの銘柄コードは「GM」になります。 では、データの上位5件を表示してみましょ

こんにちは。 林@アイエンターです。 前回はブログでは数学的なアプローチの回帰分析のお話をいたしました。 最近は統計分析や機械学習の分野では、Pythonが使われるケースが増えています。 Pythonには、数理演算やデータ可視化の強力なライブラリがそろっているのが その一因かと思います。 今回は「scikit-learn」という機械学習で良く用いられるpythonライブラリを紹介します。 非常にパワフルなライブラリーです。 実際、前回のブログのサンプルデータをライブラリーで回帰分析してみます。 ■環境セットアップ 「Anaconda」という、Pythonパッケージをインストールします。 これはPython本体と、科学技術、数学、データ分析関連で良く使われるライブラリを、一括でインストールできるパッケージです。 Windows/MacOS/Linuxのそれぞれのパッケージが用意されています。