2009年2月26日のブックマーク (10件)

  • サポートベクターマシン

    サポートベクターマシンは、ニューロンのモデルとして最も単純な線形しきい 素子を用いて、2クラスのパターン識別器を構成する手法である。訓練サンプル 集合から、「マージン最大化」という基準で線形しきい素子のパラメータを学習 する。線形しきい素子は、図1に示すようなニューロンを単 純化したモデルで、入力特徴ベクトルに対し、識別関数(線形識別関数) により2値の出力値を計算する。ここで、 はシナプス荷重に対応するパ ラメータであり、はしきい値である。また、関数 は、のときをとり、のときをとる符号関数である。このモデルは、 入力ベクトルとシナプス荷重の内積がしきい値を超えればを出力し、超えな ければを出力する。これは、幾何学的には、識別平面により、入力特徴空間 を2 つに分けることに相当する。今、2つのクラスを,とし、各クラス のラベルをとに数値化しておくとする。また、訓練サンプル集合として、 個の

    whitebrain
    whitebrain 2009/02/26
    SVMの少し詳しい解説
  • サポートベクターマシン

    サポートベクターマシン(Support Vector Machine:SVM)は2クラス分類識別器の一種ある。 その大きな特徴として次の三つがあげられる。 マージン最大化という方針で識別平面を決定するので高い汎化能力が期待できる。 学習がラグランジュ未定乗数法により二次計画問題に帰着され、局所最適解が必ず広域最適解となる。 識別対象の空間に対する事前知識を反映した特徴空間を定義することで、その特徴空間上で線形識別を行える。 さらにその特徴空間上での内積を表したカーネルと呼ばれる関数を定義することにより、明示的に特徴空間への 変換を示す必要がない。 以下に簡単に説明していく。 1.マージン最大の識別平面 図1のように2次元ベクトルで表される空間上にあるパターンを線形に識別する問題を考えてみる。 ○と □はそれぞれ別のクラスに属するものとする。 一般にパターン認識の問題では、パターンをどちらの

    whitebrain
    whitebrain 2009/02/26
    SVMの簡単な解説
  • Support Vector Machine

    人間には卓越した学習能力が備わっている.人間は目で見たり,耳で聞いたものが何であるかをいとも簡単に認識できる.また,未知の環境に適応する能力も優れている.それに対し,コンピュータは,与えられた指示(プログラム)どおりに高速に計算を行う能力においては優れているが,学習能力という点においては,人間とは比較にならない. そこで,人間のような学習能力をもった機械(モデル)を作るための学習理論が発達してきた.その代表的な成果の1つとして,多層パーセプトロンが挙げられる.多層パーセプトロンは1980年代に開発され,これまで多方面に応用されてきた.しかし,望ましくない局所最適解への収束,中間層の素子数の選択など,いくつかの問題点がある. サポートベクターマシン(Support Vector Machine:SVM) は,このような問題を解決した学習機械として知られている.サポートベクターマシンとは,1

    whitebrain
    whitebrain 2009/02/26
    SVMの簡単な解説
  • サポートベクターマシン入門

    次へ: はじめに サポートベクターマシン入門 栗田 多喜夫 Takio Kurita 産業技術総合研究所 脳神経情報研究部門 Neurosceince Research Institute, National Institute of Advanced Indastrial Science and Technology takio-kurita@aist.go.jp visitors since Jul. 19, 2002. 概要: 最近、サポートベクターマシン(Support Vector Machine, SVM)と呼ばれるパター ン認識手法が注目されており、ちょっとしたブームになっている。カーネルトリッ クにより非線形の識別関数を構成できるように拡張したサポートベクターマシン は、現在知られている多くの手法の中でも最も認識性能の優れた学習モデルの一 つである。サポートベクターマ

    whitebrain
    whitebrain 2009/02/26
    SVMの詳しい解説
  • ところでサポートベクターマシンって何なの? - きしだのHatena

    最近、機械学習とか、そのアルゴリズムのひとつであるサポートベクターマシンとかやってるわけですが、そもそも機械学習ってなんなんでしょか? 機械学習ってのは、なんとなく与えられた点の分類から、新たに与えられた点の分類を推測するのですが、ようするに、点が与えられたときにそこから分類の領域を推測しておいて、新たな点がきたときにはどの領域に入るかを判別するのです。 ニューラルネットワークは、名前にニューロンとかついてて、とてもステキな響きがするのですが、あれは関数のあてはめを行っているのです。そうやって関数をあてはめることで、領域の境界面を求めます。 NN法は、学習とかせず、一番近いデータが同じ分類になるはずという戦略でやってます。 サポートベクターマシンも考え方としてはNN法と同じで、新しい点がやってくると、学習したそれぞれの点までの近さを計算して、一番ちかい分類を求めます。そのため、学習データが

    whitebrain
    whitebrain 2009/02/26
    SVMのJavaによる実装例
  • Kernel-Machines.Org — Kernel Machines

    This page is devoted to learning methods building on kernels, such as the support vector machine. It grew out of earlier pages at the Max Planck Institute for Biological Cybernetics and at GMD FIRST, snapshots of which can be found here and here. In those days, information about kernel methods was sparse and nontrivial to find, and the kernel machines web site acted as a central repository for the

  • Support Vector Machine

    サポートベクターマシン サポートベクターマシン(Support vector machine; SVM)は、 現在最も注目されているニューラルネットモデルです。 これまで最も盛んに研究されてきたのは バックプロパゲーションでしたが、 バックプロパゲーションには、 汎化能力があまり高くない という欠点がありました。 それに対して、サポートベクターマシンは汎化能力が高い というのが大きな特徴です。 そのため、パターン認識の有力な手法として 注目されています。 目次 基的なアイデア マージン最大化 カーネルトリック まとめ 参考文献 基的なアイデア サポートベクターマシンのポイントは2つあります。 マージン最大化 非線型写像 ここでは研究室配属の参考にしてもらうということで、 数学的な話は省略して、基的な考え方を定性的に説明します。 マージン最大化 サポートベクターマシンは 単純パーセプト

    whitebrain
    whitebrain 2009/02/26
    簡単な解説
  • LIBSVM -- A Library for Support Vector Machines

    Chih-Chung Chang and Chih-Jen Lin Version 3.35 released on September 1, 2024. We fix some minor bugs. Version 3.31 released on February 28, 2023. Probabilistic outputs for one-class SVM are now supported. Version 3.25 released on April 14, 2021. Installing the Python interface through PyPI is supported > pip install -U libsvm-official The python directory is re-organized so >>> from libsvm.svmutil

    whitebrain
    whitebrain 2009/02/26
    SVM実装用のライブラリ:色々なインタフェースがある
  • サポートベクターマシンとは何か--パターン認識手法の大形新人 | CiNii Research

    JaLC IRDB Crossref DataCite NDL NDL-Digital RUDA JDCat NINJAL CiNii Articles CiNii Books CiNii Dissertations DBpedia Nikkei BP KAKEN Integbio MDR PubMed LSDB Archive 極地研ADS 極地研学術DB 公共データカタログ ムーンショット型研究開発事業

    whitebrain
    whitebrain 2009/02/26
    SVMの良さげな解説
  • opencv.jp - OpenCV: サポートベクターマシン(Support Vector Machine)サンプルコード -

    作成者: 怡土順一, 最終変更者: 怡土順一, 最終変更リビジョン: 357, 最終変更日時: 2007-12-26 14:22:07 +0900 (水, 26 12月 2007) ■ サポートベクターマシン OpenCV-1.0.0で提供されるSVMに関する関数は,libsvmライブラリ(version 2.6)の機能を実装したものである. また,このバージョンでは,学習後のパラメータを保存,読み込みする関数 (save, load)にバグが存在し,Yahoo!Groupsで報告されているパッチ (http://tech.groups.yahoo.com/group/OpenCV/message/48635 )等をあてなければ,当該機能が利用できないので注意すること. #include <cv.h> #include <highgui.h> #include <ml.h> #includ

    whitebrain
    whitebrain 2009/02/26
    SVMをOpenCVで使う方法