こんにちは、教育業界に就職した新卒1年目のデータサイエンティストです。 新卒研修ということで自分でコンテンツを探してプログラムを組み立てる機会をいただきました！ そこで、折角なので進捗状況や学んだこと等、以後の振り返りのためにポストしていこうと思います。 今回は、自分のスキル状況、目標、具体的なコンテンツについて書いていきます。 現在のスキル SQLのSELECT文の基本的な部分が書ける pythonがほんの少し書ける（関数の実装くらいまで） Tableauが使える（Tableau アカデミックプログラムを利用していました） ご覧の通り、一般にデータサイエンティストとして必要なスキルがほぼありません... 本当に0からのスタート、何から始めれば良いのか... 目標 目標を立てる上で、こちらの記事を参考にさせていただきました。 データサイエンティストに必要なスキル要件 上記事によると、データ

2019/5/11 PR: こちらの内容を含め、2019年5月11日発刊の 図解速習DEEP LEARNINGという本ができました。[2019年5月版] 機械学習・深層学習を学び、トレンドを追うためのリンク150選 - Qiitaでも、一部内容をご覧いただけます 2019/3/9 ここで紹介している講座が、「東京大学のデータサイエンティスト育成講座」として書籍化されました! 2019/3/9 Colaboratoryに関する情報交換Slackを試験的に立ち上げました。リンクより、登録・ご参加ください。 TL;DR 東大松尾研がJupyter notebook形式でデータ分析/ Deep Learning講義内資料をそれぞれ公開 Google Colaboratoryを使えば、Python等セットアップ不要ですぐに始められる セットアップ後は、スマホブラウザでもok そもそもデータ分析/人工

【最終更新 : 2017.12.17】 ※以前書いた記事がObsoleteになったため、2.xできちんと動くように書き直しました。 データ分析ガチ勉強アドベントカレンダー 17日目。 16日目に、1からニューラルネットを書きました。 それはそれでデータの流れだとか、活性化関数の働きだとか得るものは多かったのですが、Kerasと言うものを使ってみて、何て素晴らしいんだと感動してしまいました 今まで苦労して数十行書いていたものが、わずか3行で書ける！ 正直、スクラッチで書く意味って、理解にはいいけど研究や分析には必要あんまないんですよね。車輪の再発明になるし。 と言うわけで、使えるものはどんどん使っていこうスタンスで、今日はKerasの紹介です！ Tutorial+気になった引数を掘り下げて補足のような感じで書いています。 ちなみに、各部のコード以下をつなぎ合わせるとmnistの分類器が動くよ

いきなり自分でハードル上げてみました（笑）。ちなみに何故単純パーセプトロンを最初に持ってきたのか？というと、id:echizen_tmさんのブログ記事でも触れておられる通り 機械学習には大きく分けて「識別関数」「識別モデル」「生成モデル」の3つの種類がある。このなかで識別関数は確率を使わないので初心者が入門するのに最適。 識別関数で有名なのはSVM(Support Vector Machine、サポートベクターマシン)。名前を聞いたことがある人も多いと思う。そこで早速SVMを学ぼうとすると敷居が高くて挫折しがち。 実はSVMは(大雑把に言うと)パーセプトロンという基礎的な識別関数に「マージン最大化」と「カーネル関数」という考え方を導入したもの。なので機械学習入門者は最初にパーセプトロンを学ぶのが良いと思われる。 それゆえ、実際に僕も以前Matlabで糞コード書きながら勉強してた時はやはり単

TensorFlowを使った為替(FX)のトレードシステムを作るチュートリアル ～システムのセットアップからトレードまで～機械学習システムトレードTensorFlowjiji 機械学習ライブラリ「TensorFlow」と、オープンソースのシステムトレードフレームワーク「Jiji」を組み合わせて、機械学習を使った為替(FX)のトレードシステムを作るチュートリアルです。 システムのセットアップからはじめて、機械学習モデルの作成、トレーニング、それを使って実際にトレードを行うところまで、具体例を交えて解説します。 システム構成 次のようなシステムを作ります。 Jijiのバックテスト機能を使ってトレードデータを収集。これをTensorFlowに入力してモデルをトレーニングします。 予測する内容については後述。 訓練したモデルを使って予測結果を返すREST APIを作り、トレード時にJijiから呼び

この記事は何？ ニューラルネットワークの理解が曖昧な部分があったので，実際にニューラルネットワークの動きを手計算して確かめた時のメモです． ニューラルネットワークの構造 下のような図で表される，小さめの構造のニューラルネットワークの動きを手計算で確かめてみようと思います． 入力層ユニット数は3，隠れ層ユニット数は2，出力層ユニット数は2とします． 隠れ層の活性化関数$h$はシグモイド関数$h(a)=\frac{1}{1+\exp(-a)}$を用います． 出力層の活性化関数$o$は恒等関数$o(a)=a$を用います． 重みの初期値は以下のように設定します． W^{(1)}=\begin{bmatrix} w_{11}^{(1)}&w_{12}^{(1)}&w_{13}^{(1)}\\ w_{21}^{(1)}&w_{22}^{(1)}&w_{23}^{(1)} \end{bmatrix} =

PFIセミナー(2016/02/25)で発表したスライドです。伝承サンプリング可能な生成モデルに関するDeep Learningの紹介です（キーワード：Wake-Sleep, 変分 AutoEncoder, Generative Adversarial Nets, Likelihood Ratio）Read less

株式会社Preferred Networksの公式YouTubeチャンネルです。

機械学習の世界において、画像といえばConvolutional Neural Network(以下CNN)というのは、うどんといえば香川くらい当たり前のこととして認識されています。しかし、そのCNNとは何なのか、という解説は意外と少なかったりします。 そこで、本記事ではCNNについてその仕組みとメリットの解説を行っていきたいと思います。 なお、参考文献にも記載の通り解説の内容はStanfordのCNNの講座をベースにしています。こちらの講座はNeural NetworkからCNN、はてはTensorflowによる実装まで解説される予定なので、興味がある方はそちらもご参照ください。 CNNはその名の通り通常のNeural NetworkにConvolutionを追加したものです。ここでは、Convolution、畳み込みとは一体なんなのか、という点と、なぜそれが画像認識に有効なのかについて説

機械学習は統計学的な手法から発展してきたこともあり、ベイズの定理による確率論的な定式化が一般的である。しかし、最近流行りのディープラーニングなどを理解しようと思うと、決定論的な立場から定式化しておくほうがわかりやすいと思われる。 僕はこのように理解しているという感想記事です。わかりやすいかはわかりませんが、ざっくりはわかると思います。 教師あり学習の定式化 教師学習とは : 関数に対して、 : 学習データ上の値が与えられた時、 : 関数族（モデル）と : コスト関数を選び、 コスト関数の総和 を最小化（＊アルゴリズム）し、かつ任意のテストデータに対しても、 が最小となる（＊汎化性）ような、 を選ぶことである。 と定式化してみる。これにより、なにがヒューリスティックに選ぶべきもので、なにがアルゴリズムなどで行うものなのかが明確になり、どこの議論をしているのかがわかりやすくなると思う。 回帰と

何の話かというと TensorFlow Tutorialの最初に登場する「MNIST For ML Beginners」では、次の方針で手書き文字の分類器を作成しています。（今の段階では、下記が何を言ってるのか分からなくても大丈夫です。） ・28x28ピクセルの手書き文字画像を各ピクセルの濃度を並べた784次元ベクトルと見なす。 ・784次元ベクトル空間を10箇所に分類する線形の多項分類器を用意する。 ・多項分類器の出力値をsoftmax関数に入れて、784次元空間の各点について、「0」〜「9」のそれぞれの文字である確率を定義する。 ・上記の定義の下で、トレーニングセットが得られる確率を最大にするよう、線形多項分類器のパラメーターを調整する。 これが一体何を言ってるのか・・・ということを数学的に理解していただくことが目標です。今回は、下準備として、より単純化したデータで上記と同じ処理を実装

シリコンバレーの有名大学であるスタンフォード大学で、Andrew Ng先生の教える機械学習の講義が人気を集めている。この講義は形を変え、courseraという無料のWeb上オンラインコースとしても受講でき、ここ日本でも機械学習の勉強がしたい人達の間でも人気の講義となっている。 [Machine Learning by Stanford University] https://www.coursera.org/learn/machine-learning/ 人気の秘密 Andrew Ng先生の講義は内容が非常に実用的であることが人気の理由の1つとして挙げられるだろう。Andrew Ng先生はシリコンバレーの企業を相手に機械学習の指導をしている。おそらくその経験から、理論に走りすぎず、機械学習を適用するプロジェクトにおいて本当に有意義な内容に強くフォーカスしていることが感じられるのだ。Andr

コードはこちら: 全てのコードはGithub上のIpython Notebookでも公開しています。 この投稿では、1から3階層のシンプルなニューラルネットワークを構築します。出てくる全ての数学の解説はしませんが、可能な限り必要な部分は、わかりやすく説明したいと思います。数学の詳細が気になる方は、英語が多いですが参考になるリンクを下記で記載します。 この投稿の読者は最低限、微分と機械学習の基礎（クラシフィケーションや正則化など）を知っていると仮定します。更にGradient Descent（勾配降下法）のような最適化技術を知っていれば、なお良しです。ただ上記を知らなくても、ニューラルネットワークに興味のある方なら楽しめる内容だと思います。 それではまず、なぜ一からニューラルネットワークを構築する必要があるのでしょうか？後の投稿で PyBrain や Tensorflow のようなニューラル

Christopher Olah氏のブログ記事 http://colah.github.io/posts/2014-03-NN-Manifolds-Topology/ の翻訳です。 翻訳の誤りなどあればご指摘お待ちしております。 近年、深層ニューラルネットワークには多くの興奮と関心が寄せられています。コンピュータビジョンなどの分野でブレークスルーとなる成果を達成したためです。1 しかし、それにはいくつかの懸念が残ります。そのひとつは、ニューラルネットワークが実際に 何を やっているかを理解することが、かなり難問であり得る、ということです。よく訓練されたネットワークは高品質の結果を達成しますが、どのようにしてそうしているかを理解することは困難です。ネットワークが失敗した場合、何がうまくいかなかったかについて理解することは難しいです。 一般的に深層ニューラルネットワークの挙動を理解することは困

「いつか勉強しよう」と人工知能／機械学習／ディープラーニング（Deep Learning）といったトピックの記事の見つけてはアーカイブしてきたものの、結局2015年は何一つやらずに終わってしまったので、とにかく一歩でも足を踏み出すべく、本質的な理解等はさておき、とにかく試してみるということをやってみました。 試したのは、TensorFlow、Chainer、Caffe といった機械学習およびディープラーニングの代表的なライブラリ／フレームワーク3種と、2015年に話題になったディープラーニングを利用したアプリケーション2種（DeepDream、chainer-gogh）。 （DeepDreamで試した結果画像） タイトルに半日と書きましたが、たとえばTensorFlowは環境構築だけなら10分もあれば終わるでしょうし、Chainerなんてコマンド一発なので5秒くらいです。Caffeは僕はハ

(Photo via VisualHunt) 追記 2017年3月現在の最新書籍リストはこちらです。 最近になってまた色々とデータサイエンティストを目指す人向けのお薦め書籍リストとか資料リストとかが出てきてるんですが、個人的には何かと思うところがあるので僕も適当にまとめておきます。偏りありまくり、完全に主観で決めたリストなので文句が出まくるかと思いますが、もはや毎回のことなのでご容赦を。 なおこちらのリストはあくまでもビジネスの現場でデータ分析を生業にする（しようとしている）人たち向けのものであり、研究者含めたガチ勢の方々向けのものではありませんのでどうか悪しからずご了承下さい。 ちなみに毎回言ってますが、アフィリエイトは全くやっていないのでここに貼られたリンクを踏んで皆さんが購入されても僕の懐には一銭も入りません。拙著だけはそもそも例外ですが（笑）。*1 初級者向け5冊 一応初級者向けと

続わかりやすいパターン認識をようやく読了した。 １回通読しただけで理解したわけではない点が重要だw 自分一人ではやはり通読するのもなかなか厳しい内容だった。続パタ読書会のおかげと言わざるを得ない。 本書は過去にあった名著「わかりやすいパターン認識」の後継にあたる位置付けだが、10年ほどの年月を経て、その連続性には非常に懐疑的な構成だった。 なぜなら、本書は教師なし学習の入門書だったからだ。 まあ、前書で教師ありのパターン認識を網羅して、その次に教師なし学習を解説したのかもしれないが。 個人的には難解な部分が多かったが、マルコフモデルやノンパラメトリックモデル、各種確率過程に触れることができた点がよかった。 輪読会における資料やディスカッションにおけるshuyoさんの指摘や解説が僕のような初学者には非常に参考になった。圧倒的感謝である。 まあ、実際に教師なし学習を適用して何かするかといえば、

2017年1月21日開催の第8回ステアラボ人工知能セミナーにて講演する内容です。 https://stair.connpass.com/event/47714/ 【概要】スマートフォン/ウェブカメラの普及や動画共有サイトの登場により動画像を利用する機会は増加しているが、コンピュータビジョン分野において動画認識が活発に議論されるようになったのは2000年代になってからである。本講演では動画認識の現在に至るまでの一連の流れを紹介するとともに、将来展望においても議論する。 【キーワード】コンピュータビジョン、動画認識、行動認識、モーション表現、時系列モデル、STIP、DT/IDT、Two-Stream CNN、TDD、TSN、ST-ResNet、行動予測、行動検出

Private content!This content has been marked as private by the uploader.