はてなブックマーク

サポートベクターマシンの説明 サポートベクターマシン(Support Vector Machine: SVM)とは機械学習における教師あり学習の パターン認識 のアルゴリズムのひとつである。 パターン認識とは「何らかの入力が与えられたときに、 その入力パターンを解析して適切なカテゴリに分けること」。 「顔であるかないか」といったふたつに分類する画像認識や、「どの文字であるか」といった文字認識(複数の分類)などに用いられる。 教師データとして与えられたデータを分類したあとに、未知のデータ(学習しなかったデータ)をうまく分類するのが SVM の役目。 画像認識の例: 歪んだ文字が撮影された写真(画像データ)と、その文字が何であるかという問題と回答を SVM に学習させる。つまりあらかじめ識別、分類した結果をコンピュータに覚えさせる。 この学習を繰り返す。 未知の写真(画像データ)を SVM に

アソシエーション分析の説明 アソシエーション分析とは データの中から意味のある関連性を抽出する 手法を指す。 相関係数 はふたつの変数の関係を数値的に示すものだが アソシエーション分析では「Aという条件の時にBが起こる確率」を求めることができる。 相関関係はふたつの変数「A」と「B」があった場合、計算時に「A」「B」を入れ替えても相関係数は変わらないが アソシエーション分析では「A」と「B」を入れ替えると結果は異なる。 つまり変数に方向性があるので、「A ⇒ B」と表記される。この表記を アソシエーション ルール と呼ぶ。 アソシエーション分析の結果は カイ二乗検定 や t検定 における p値 のようにひとつの計算結果では判断できない。 アソシエーション ルールの強さと有効性は以下の３つの値で判断する。 支持度 信頼度 リフト値 支持度 (Support) すべてのデータのなかで「A ⇒

時系列解析の説明 時系列解析とは 時間の経過と共に記録されたデータについて傾向、周期、誤差を分析する 手法を指す。 時間の経過と共に記録されたデータのことを 時系列データ と言う。 時系列データから何かを読み取ろうとするとき、数字を眺めているだけではどうにもなりません。 時系列データから 基本的な統計量 を算出して、 「当せん金額が最も多かったのは先月だ」とか「抽せん数字の平均値は 555.5 だ」とかは理解できるが、 時間の流れに沿った特徴を読み取る のはデータを見ているだけではわからないのです。 そんな時系列データはグラフを描いて分析するのが常套手段です。 グラフから 傾向、周期、誤差 を読み取ります。 傾向: 増加や減少があるのか？増減は激しいのか、ゆるやかなのか？といった変動を見る。 周期: 増減の変動に一定の規則が現れているのかを見る。 誤差: 不規則な変動があるのかを見る。 ナ

マルコフ連鎖とは マルコフ連鎖とは ひとつ前の過去から次に起こる出来事の確率 が計算できる確率過程(この確率過程をマルコフ過程と呼ぶ)のことを言う。 分析手法ではなく状態や概念のことだが、マルコフ連鎖を使うと 確率の掛けあわせで未来を予測する(未来の確率を計算する) こともできる。 ナンバーズの予想に使うには ナンバーズの予想では、 前回の数字が今回の数字を決定する(単純マルコフ過程)と仮定して推移確率を割り出す ことで次回の数字を予測する。 本書の説明では1回先の未来までしか予想しないが、理論的には2回先、3回先の予想数字の確率を求めることが可能。 ナンバーズ予想をやっている人なら「連鎖の回数」みたいな言葉を聞いたことがあるかもしれません。 1 の次に 2 が出た回数や、5 の次に 0 が出た回数のことです。 この「連鎖の回数」を確率に置き換えるのです。 1 の次に 2 が出る確率や、5

t検定の説明 t検定とは平均値について差があるか、ないかを調べる手法です。 標本から得られた平均値が母集団の平均値と等しいのかを調べる (1サンプルの検定) 2つのグループの平均値について差があるかを調べる (2サンプルの検定) 2つの独立した母集団から標本を選んでくる場合 ( 対応のない t検定) 1つの母集団から標本を選んでくる場合 ( 対応のある t検定) カイ二乗検定 と同様に p値 というのを求めて差を検定することができる。 p値とは 実際に観測された分布が理論的に予想される分布にどれだけ近づいているかを表す確率 のこと。有意水準と呼ぶ。 p値が大きければ 、平均値に 差がない ことを示し、 p値が小さければ 、平均値に 差がある ことを示す。 一般にこの値が5％未満(p < 0.05)の場合にデータには「統計学的に有意な差がある」とされるため、 p値が 0.05 未満だと、 平

回帰分析とは 回帰分析とは 関係のある2つの変数があるとき、一方の数値が与えられたときに他方の数値を予測する分析方法 。 相関係数 は単純に2つの変数の関連性を数値的に示すものだが、回帰分析では 2つの変数の関係性を方程式 で表すので予測値が簡単に計算できるメリットがある。 方程式 Y = Xa + b Y は目的変数 と呼ばれ、いわゆる予測したい変数のこと。 いっぽう X は Y を説明する変数ということで説明変数 と呼ばれる。 回帰分析では a と b について知ることができる。 回帰分析の例 まずは関係のありそうな2つの変数を定義(想定)してみる。 予測したい変数(目的変数): 月曜日の抽せん数字 100の位 関係のありそうな変数(説明変数): 金曜日の抽せん数字 100の位 「100の位の数字について、金曜日の抽せん数字と月曜日の抽せん数字に関係がある」と仮説を立てて、月曜日の抽せ

相関係数がプラスの時は一方が大きくなれば他方も大きくなるという右肩上がりの関係になり、 マイナスの相関係数は一方が小さくなれば他方も小さくなるという右肩下がりの関係になる。 相関係数の例 相関(2つの変量の関係)の分析は、主として 時間とともに変量が増加または減少するデータの分析 に有効である。 ナンバーズの場合だと抽せん数字というのは足したり引いたりするものではない(※)のだが、 「一方が大きくなれば他方も大きくなる」というのをわかりやすく示すために、 位ごとの抽せん数字を足し合わせた 累積度数 を作成して分析してみる。 (※)抽せん数字というのはあくまでラベルである。0から9の数字を「ABCDEFGHI」の英字だと考えると理解できると思います。

カイ二乗検定の説明 カイ二乗検定とは何かが発生する頻度(度数)について偏りがあるかどうかを調べる手法。 理論的に予想されるデータの分布と実際に観測されたデータの分布がほぼ同じかどうかを検証する。 「予想通りの結果なのか?」あるいは「出来事に関連があるのか?」という2種類の検定がある。 観測されたデータが予測される確率(割合)の通りになっているかどうかを調べる 適合度の検定 。 2つの出来事について、独立かどうか(関連性があるかどうか)を調べる 独立性の検定 。 両者は形式的には全く同じであるが，データの採取法により両者は区別される。例えば，「男女の 2 群で食物嗜好の回答の分布が異なるか」を知りたいときに，まえもって m 人の男子と n 人の女子を対象として調査することを決めてからデータを集めた場合には男女で分布が異なるかどうかの検定になる。これに対して，N 人の対象者について調査し，得ら

クロス集計とは クロス集計とは 複数の項目(変数)を掛けあわせて集計する 手法です。分割表とも言います。 ナンバーズでは例えば、単純な 度数分布表 では抽せん数字の当せん回数を数え上げるだけだったが、 クロス集計では「抽せん数字の曜日別の当せん回数」、「抽せん数字の日付別の当せん回数」といった具合に 項目を掛けあわせた分析に使います。 クロス集計の例 (2つの変数を掛けあわせる) 100の位と10の位について、数字が同時に出現した回数を求めます。 「100の位に 0 が出現したとき、10の位で 9 が出現した回数は?」というのを分析します。 第1回から第4170回の抽せん数字で集計してみた結果が下記になります。 python のプログラムは 前準備 で用意したデータフレームを使っています。 # crosstab2 の内容 place10 0 1 2 3 4 5 6 7 8 9 place1

度数分布の説明 度数分布とは何かが発生する頻度(度数)をまとめたものである。 一般的に 度数分布表 という表を作成する。 何かというのは専門用語では 階級 と言う。 グループとか項目と同じ意味。 階級が数字の場合は 階級幅 を設定してデータの区間を設定することができる。 階級の区間において階級を代表する値は 階級値 と呼ぶ。 ナンバーズでは抽せん数字を0から999の数字ととらえることで 階級を「0〜99」「100〜199」のように階級を100ごとに区切って出現回数を調査できる。 このときの階級幅は100となり、階級の真ん中の値が階級値となる。 階級値 = (階級の初め値 + 階級の終わりの値) / 2 度数分布表というのは統計学においてデータを整理するための 基本中の基本 でとても大切。 また度数分布表をもとに作成されたグラフを ヒストグラム と呼び、視覚的にデータの分布を把握できる。

統計量とは 統計量とはデータの特徴を表す値のことです。 統計量にも種類がありますが、ここで説明する統計量は要約統計量や基本統計量と呼ばれます。

データ分析の環境 本書はデータを処理するためにプログラミング言語の Python とその関連ライブラリを使用します。 Python プログラミング言語 pandas 統計解析ライブラリ SciPy 数値解析ライブラリ NumPy 多次元配列や数学関数のためのライブラリ Matplotlib グラフ描画ツール scikit-learn 機械学習ライブラリ 実行環境 iPython オリジナルの Python シェルを強化したシェル環境 Jupyter Notebook iPython のフロントエンド 本書に登場するプログラムのコードは上記のようなツールを使うことを前提に書かれています。 処理結果のコードは大抵の場合 iPython で実行した結果を貼り付けています。 科学技術計算に特化した Python ディストリビューションの Anaconda を導入すれば上記の環境を手軽に構築できます

この文書は Unix と Linux オペレーティングシステムの入門書です。 8つのチュートリアルによって UNIX / Linux の基本コマンドをカバーしています。

暇な人はやってみるといいプログラミングの万能練習法 は良いトレーニングになる。 プログラムを自ら書きたいと思う人って、与えられたメニューをこなすだけの人間ではないと思うけどハッカーを目指している人には UNIX の勉強にもなるんじゃないだろうか。というわけで、実際の練習メニューは以下の通り。 プログラミング言語を選択する 書いてみようと思う POSIX のコマンド を決める man をはじめとするマニュアルを読んでコマンドの仕様を理解する 設計する(初回のコーディングと同時進行はやめたほうがいいかも) コーディング テストする。設計とコーディングの反復。 終了 C 言語で書いたならテストのあとにオリジナルのソースを読んで答え合わせするのですが、必ずしもオリジナルのコードが正解とは言い切れない。 自分が書いたプログラムが仕様どおりに動いているならアルゴリズムの違いなどは気にしなくていいと思う

UNIXの哲学 UNIX [1] には9つの定理(設計の哲学)がある。 スモール・イズ・ビューティフル 一つのプログラムには一つのことをうまくやらせる できるだけ早く試作を作成する 効率より移植性 数値データはASCIIフラットファイルに保存する ソフトウェアの挺子を有効に活用する シェルスクリプトを使うことで挺子の効果と移植性を高める 過度の対話的インタフェースを避ける すべてのプログラムをフィルタにする 基本となる思想は「小さいものは美しい」「効率よりも移植性を重視」「Not Invented Here Syndrome 」。 3つ目の Not Invented Here Syndrome とはすべての技術/ソフトウェアを自前で用意しようとする考え方になってしまう病気(症候群)のことである。UNIX ではこの Not Invented Here Syndrome を拒否し、他所の技術を

リモートサーバーのジョブが思ったよりも長時間かかってしまいログアウトできない。 nohup コマンドは知っているんだけど、あとから nohup できる方法を知らない。 そんなときは bash の disown コマンドを使うと、指定のジョブに SIGHUP が送られないようにすることができます。 実行中のジョブを ctrl+z で一時停止する bg でバックグラウンドで実行する disown -h [jobspec] jobspec は %1 のようにジョブ番号を指定します。ジョブ番号は jobs コマンドで確認してください。 これでリモートサーバからログアウトしてもジョブが継続されます。

Mac はゲーム機としてふさわしくないと思われていますが、安心してください。Mac には FPS ゲームのプレイと素晴らしい体験を提供する能力があります。 Mac は多くの人に(あるいは誰にも)ゲームのプラットフォームと見なされておらず、グラフィックや音楽をはじめとした創造的な活動のために良いとされています。しかし、それは Mac でプレイできるゲームが存在しないというわけではありません。 それどころか、Apple 社の App Store と Valve 社の Steam のおかげで Mac 用のゲームは数多くあります。もちろん Windows を起動する必要はありません。良いゲームは限られているのですが、Mac をゲーム用のコンピュータにすることも可能なのです。 このような背景で、私は Mac でネイティブに動作する(最適化された) FPS ゲームの一覧を作成しました。ピックアップした

習慣その1: sudo を使わない sudo は臆病者の松葉杖みたいなものさ。root 権限が必要なら私たちは su コマンドで root になる。sudo なんてナンセンスだ。 実際、私たちは、すべてのユーザーに sudo を強制する Unix ライクなオペレーティングシステムでは、最初に sudo su - として root のパスワードを変更するよ。そうすれば、快適にそして永久に su - できるからね。 排他的に sudo を使うことは、ガーターをバンパーでカバーしているボーリングに似ているね。安全だけど、行動を通して考えることをしない原因となるんだよ。 習慣その2: emacs ではなく vi を使う。pico や nano は絶対使わない。 多くの Unix 管理者にとって emacs が、 Unix のマイクロソフト ワードと言えるほど、親愛なものであることを知っています。

完全に消去するとはどういうことか? パソコンのデータを削除しようとファイルを「ゴミ箱」に入れるだけではデータは消えません。また「ゴミ箱」を空にした後でも削除したファイルは特殊なデータ修復ソフトウェアを使用して修復することができます。データを完全に消去するとは ファイルやフォルダを修復不可能な状態にする ことを指します。 修復不可能な状態とは、シュレッダーで裁断された紙と同じ状態です。シュレッダーにかかった紙片を分散して処分すれば修復の可能性は皆無となります。コンピューターのデータは分散して廃棄するのは難しいのですが、シュレッダーで細切れになった紙片をさらにシュレッダーにかけるような感じで データを意味不明な状態にする のです。 どういうときに完全に消去するのか? 絶対に見られては困るファイルを破棄するとき パソコンの所有者が変わるときにハードディスクをはじめとする記憶装置のデータを完全に消

はじめに 「なぜ windows のソフトウェアが Mac では動かないの？」と彼は言った。『CPU が違うからだ』という説明は理解できたようだ。CPU が演算処理を行うということを彼は知っていた。「CPU が違うとなぜ動かないの？」『CPU には独自の命令セットがあって、windows が動く CUP(intel) と Mac が動く CPU(PPC) は命令セットが違うんだよ。』「そうなんだ。」 プログラマを名乗る者が「なぜ windows のソフトウェアが Mac では動かないの？」との問いに答えられないことには驚いた。プログラマだったらコンピューターが動く仕組みを少しは知っていると思っていたからだ。私はえらそうなことを言えるほどの知識をもっていないが コンピューターの仕組み には常々興味がある。たしかにコンピューターの仕組みをすべて知ったところで素晴らしいプログラムが書けるわけない

この文書は Unix と Linux オペレーティングシステムの入門書です。 8つのチュートリアルによって UNIX / Linux の基本コマンドをカバーしています。

ディレクトリ UNIX はディレクトリの区切り(パスの表記)にスラッシュ"/"を使う。 / ルート ディレクトリ("root" directory) /usr usr という名前のディレクトリ(ルート ディレクトリのサブ ディレクトリ) /usr/STRIM100 STRIM100 は /usr のサブディレクトリ ファイルシステムの移動 ファイルシステム内(ディレクトリ)を移動する方法。 pwd 現在作業中あるいは今居るディレクトリの表示 cd ホーム ディレクトリへ移動 cd /usr/STRIM100 /usr/STRIM100 ディレクトリへ移動 cd INIT 今居るディレクトリのサブディレクトリである INIT ディレクトリに移動 cd .. 親ディレクトリへ移動 cd $STRMWORK 環境変数 'STRMWORK' で定義されたディレクトリへ移動 cd ~bob bob

ヒープソートは整列の対象となる配列の中でヒープ構造を構築しながら整列を行うアルゴリズムです。 整列させたい配列からヒープを構築して、そこから元の配列にコピーして整列を完了させるのではないのです。マージソートのように作業用の領域や、クイックソートのような再帰処理が必要ありません。 アルゴリズム分析 まずは以下のような手順ではないことを理解してください。 整列対象の配列から別領域にヒープを構築する ヒープから元の配列にデータをコピーする この方法だとヒープを構築する専用の領域が必要になります。 実際のヒープソートは以下のような手順です。整列対象の配列はN個のデータを持ち、インデックスは1からNとします。 整列対象の配列内にボトムアップでヒープを構築する 構築されたヒープの先頭要素[1]と最後の要素[N]を交換する 要素[1]から要素[N-1]でヒープを再構成する ヒープの先頭要素[1]と最後の

1. RFP RFP(Request For Proposal：提案依頼書)を受け取るステージ。文字通り、クライアント(発注)側が、何について提案してほしいかを知る場面です。 2. 調査 クライアントが抱える問題の本質が明らかになっていて、その解決方法を探るステージ。 デザイン(表現)で解決する場合もあれば、技術で解決する場合もある。 しかし如何なる場合でも、その解決案に説得力を持たせる必要がある。 ツールを駆使して説得材料を探せ! このステージはめっちゃ重要。 3. 提案(プレゼン) クライアントのためだけに用意した「特別メニュー」を用意する力量をより強く求められる状況になってきたということです。 当たり前の提案やちょっと綺麗な背景画像では満足しません。どこまでクライアントとユーザーの立場にたってアイデアを搾り出せるのかが重要。 4. プロジェクト設計 提案が通ったら開始されるステージ。

試験の課題や、自分自身のチャレンジ、新しいプログラミング言語を覚えるための練習などに使えるプログラミング演習問題です。 プログラミング万能練習法 のページも参考になると思います。 10進数を2進数に変換する 出力例) 10進数: 10 2進数: 1010 アルゴリズムは「10進数を順次２で割って、余り（０か１）を並べる。」です。 http://www.infonet.co.jp/ueyama/ip/binary/dec2bin.html Python で書いてみた。 import sys decimal_literal = int(sys.argv[1]) class DecimalNumber: def __init__(self, dec): self.dec = dec self.result = [] def __to_binary(self): half = self.dec /