非線形SVM - 人工知能に関する断創録
今回は、非線形サポートベクトルマシンを試してみます。線形SVM（2010/5/1）は、カーネル関数に線形カーネル（ただの内積）を使いましたが、これを多項式カーネル（A）やガウスカーネル（B）に変更します。 カーネル関数は元のベクトルxを非線形写像によって高次元空間に写像した特徴ベクトルφ(x)の内積（C）で定義されます。 一般に特徴ベクトルφ(x)は高次元空間（無限次元空間でもOK）になるので普通にやってたら内積の計算量が非常に大きくなります。そこで、特徴ベクトルφ(x)の内積を計算せずに多項式カーネル（A）やガウスカーネル（B）の計算で置き換えるテクニックをカーネルトリックと呼ぶとのこと。多項式カーネルやガウスカーネルを使うとφ(x)を陽に計算する必要がなくなります。ただ、元の空間xでの内積は必要なんですよね・・・最初は、カーネルトリックのありがたみがよくわからなかったのですが、「入力空
Support Vector Machines — OpenCV 2.4.13.7 documentation
Support Vector Machines¶ Originally, support vector machines (SVM) was a technique for building an optimal binary (2-class) classifier. Later the technique was extended to regression and clustering problems. SVM is a partial case of kernel-based methods. It maps feature vectors into a higher-dimensional space using a kernel function and builds an optimal linear discriminating function in this spac
SVM のチューニングのしかた（１） - ほくそ笑む
SVM のチューニング SVM(Support Vector Machine) はみなさん御存じ機械学習の手法です。 SVM はデフォルト設定でモデルを作ってもしょうがないです。gamma と cost というパラメータがあるので、これらの値に最適値を設定しなければなりません。R の SVM の Help にもこう書いてあります。 Parameters of SVM-models usually must be tuned to yield sensible results! (訳) SVM でいい結果出したかったらチューニングしろよな！ というわけで、SVM のチューニングのしかたについて説明したいと思います。 交差検証 おっと、その前に、交差検証の話をしなければなりません。 SVM モデルをチューニングする際、二つのパラメータでグリッドサーチをします。 すなわち、パラメータをいろいろ変
過学習を避けるにはどうすればいいか？ - nokunoの日記
この前のエントリに関連してQuoraで質問したところ、非常に質の高い回答が集まったので翻訳したいと思います。 オーバーフィットについて考える - nokunoの日記How can I avoid overfitting? - Quora 回答1まず自分のデータをランダムに訓練集合とテスト集合に分割します。テスト集合は評価のためだけに使い、訓練に使ってはいけません。もし訓練セットに対する性能が向上しても、テスト集合に対してはそうでない場合は過学習を起こしています。そのためそうなる前に訓練を止める必要があります。 回答2過学習は信号に対するノイズに誤って適応することで引き起こされます。線形回帰の文脈なら、AIC（赤池情報量規準）をチェックして下さい。それは適用するのが非常に簡単なテストです。モデルの推定に最尤推定を用いるなら、BIC（ベイズ情報量規準）が好まれます。それはShwartz基準とも
長い処理が終わったら通知する - komagataのブログ
scpとかtestとかちょっと長い処理があるとTwitterを見ちゃって戻ってきてまたちょこっと作業して長い処理があるとまたTwitter見ちゃう。 なのでTerminalで長い処理がある時は終わったら通知を出してすぐに作業に戻りたい。 $ gem install terminal-notifier $ terminal-notifier-notify -message Finished! terminal-notifier-notifyというコマンドが入って通知してくれる。 テストが成功でも失敗でも終わったら通知する。 $ rake; terminal-notifier-notify -message Finished! ちょっと長いのでshellを書く。 ~% cat ~/bin/finished #!/bin/sh terminal-notifier-notify -message
SaaS：スラムダンク・アズ・ア・スタートアップ | quipped
以前書いた記事で、Perfumeはスタートアップのお手本というものがある。当時ぼくは、今働いているスタートアップに入社したばかりで、ほとんど何も実体験がないまま、又聞き半分、妄想半分をベースに書いたのだが、これがなかなかバズってしまった。物書きの端くれとして、自分の書いたものがバズったことは嬉しかったが、実体験に裏付けされてないものが共感を呼んでしまい、少し困惑したのを覚えている。 それから一年と少しが経ち、そのスタートアップの創業メンバーの一員として、それ相応の実体験を積ませてもらっている。その体験を元に振り返ると、想像に任せて書いたPerfumeの話は、けっこう的を射ているのだが、やはり実体験を経てこそわかることもあるので、今回第二弾を書くことにした。そういう意味では、今回の話の方が、ずっと地に足がついている。 題してスラムダンク・アズ・ア・スタートアップ（"Slam Dunk as
fork, merge, diff, patch, git, hgソースコラボ色々 - komagataのブログ
Help me, hackers!をやり始めてからパッチ送ったり、貰ったり、pull requestしたり、されたり、ソースを通したコミュニケーションが増えて楽しい。 今まではpull requestとかpatchとか滅多にやらないからやり方忘れててやる度ににググってた。 ソースコラボのための色々な方法 gitでpatchを作る 適当にファイルを修正してリポジトリのルートで % git diff > foo.patch gitで作ったpatchを当てる 同じくリポジトリのルートで % patch -p1 < foo.patch Mercurialでpatchを作る 適当にファイルを修正してリポジトリのルートで % hg diff > foo.patch Mercurialで作ったpatchを当てる 同じくリポジトリのルートで % patch -p1 < foo.patch githubでf
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
はてなブログ | 無料ブログを作成しよう
はてなブログ | 無料ブログを作成しよう
Welcome to yk55.com 网站正在建设中！