タグ

パーセプトロンに関するkuyのブックマーク (3)

  • Python: 単純パーセプトロンを実装してみる

    パーセプトロンは人間の脳にあるニューロンをモデルとした古典的な機械学習アルゴリズムの一つ。 ニューラルネットワークではパーセプトロンを多層化して使うのに対し、単純パーセプトロンは入力と出力の一階層のみで構成されている。 単純パーセプトロンには分かりやすい能力的な限界もあって、それは線形分離可能 (直線を引いてこちら側が A で、こちら側は B と分類できる) な問題しか解くことができない。 ただし、派生した様々な機械学習アルゴリズムが今も使われているので、学んでおく意味は大いにありそう。 パーセプトロンの考え方では、入力と重みの内積を出力にする。 重みは最初適当な値で初期化しておき、教師信号を元にその重みを変化させていく。 ようするに、教師信号に対する答えが正解ならそのまま、間違えたら正解に近いほうにちょっとずらす、というのを繰り返す。 サンプルコードの実行に必要なパッケージをインストール

    Python: 単純パーセプトロンを実装してみる
  • パーセプトロンの学習規則をPythonで実装 - Qiita

    この投稿について 線形分離可能なデータ群に対する識別境界の決定方法の1つであるパーセプトロンの学習規則をライブラリなどを使わずにPythonで実装してみました。 Python機械学習ともに初心者なので、良くないポイントはご指摘お願いします。 「パーセプトロンの学習規則」と並んで比較される「Widrow-Hoff(ウィドロウ・ホフ)の学習規則」については「Widrow-Hoff(ウィドロウ・ホフ)の学習規則をPythonで実装」でまとめてあります。 パーセプトロンの学習規則の理論 パーセプトロンの学習規則の概要や数式については以下のスライドにざっくりとまとめてあります(スライド途中からです)。 1次元の場合 下図のような1次元上に存在し、2クラスのいずれかにに属する線形分離可能な学習データの分離境界線を求める。 実装のポイントとしては、 初期の重みベクトルはw=(0.2,0.3)とし、学習

    パーセプトロンの学習規則をPythonで実装 - Qiita
  • パーセプトロン - 人工知能に関する断創録

    今回は、4.1.7のパーセプトロンアルゴリズムを実装します。パーセプトロンは、2クラスの識別モデルで、識別関数は式(4.52)です。 パーセプトロンは、下の条件を満たすような重みベクトルwを学習します。教師信号は、クラス1のとき教師信号+1、クラス2のとき-1(0じゃない)なので注意。 上の条件をまとめるとxnが正しく分類されているときは、 を満たします。この条件はあとでプログラム中で使います。パーセプトロンは、正しく分類されているパターンに対してはペナルティ0を割り当て、誤分類されたパターンにペナルティ を割り当てます。上の式の値はxnが誤分類されたデータの場合、必ず正になるので注意。なのでパーセプトロンの誤差関数(パーセプトロン基準)は、 で与えられます。ここで、Mは誤分類されたパターンの集合です。この誤差関数は誤分類のパターンが多いほど値が大きくなるので誤差関数を最小化するようなwを

    パーセプトロン - 人工知能に関する断創録
  • 1