機械学習によるデータ分析まわりのお話
2. データサイエンティスト 2 今世紀でもっともセクシーな職業 ハーバード・ビジネス・レビュー 2013年年2⽉月号 2018年年までに⽶米国で14〜～19万⼈人不不⾜足 マッキンゼー 2011年年5⽉月 求められるスキル ビジネススキル，機械学習／ビッグデータ， 数学／OR，プログラミング，統計 Analyzing the Analyzers, O’reilly 2013 4. 本⽇日お話すること 4 1. データのこと Keywords: ダミー変数，⽋欠損値，正規化，次元の呪い 2. 機械学習のこと Keywords: 機械学習の分類，アルゴリズム，注意点 3. 評価のこと Keywords: 混同⾏行行列列，適合率率率，再現率率率，F値，ROC曲線 4. 分析のこと Keywords: 過学習，交差検証，学習曲線，バイアス・バリアンス 教師あり学習(後述)寄りの内容が多いです
機械学習に基づく推薦システム
機械学習に基づく推薦システム 岩田具治 NTT コミュニケーション科学基礎研究所 1 推薦システム • ユーザの興味に合わせておすすめのアイテ ムを提示 • 推薦対象 – 本，音楽，ニュース，映画，論文，検索語，レスト ラン，友達，恋人 • 推薦システムの効用 – ユーザ：膨大な商品のなかから好みに合ったもの を見つけられる – オンラインストア：売上の向上が期待できる 2 目次 1. 2. 3. 4. 5. 6. 推薦システムの分類 類似度に基づく手法 行列分解に基づく手法 ベイズ推定を用いた行列分解 行列分解の非線形拡張 顧客生涯価値を高めるための推薦 3 推薦手法の分類 • 協調フィルタリング – ユーザの行動履歴から推薦 ○人手で情報の付与が不要 ×新しいユーザ，新しい商品には対応できない • 内容ベースフィルタリング – アイテムの内容から推薦 ○新しい商品でも推
Etsy Engineering | Personalized Recommendations at Etsy
Providing personalized recommendations is important to our online marketplace. It benefits both buyers and sellers: buyers are shown interesting products that they might not have found on their own, and products get more exposure beyond the seller’s own marketing efforts. In this post we review some of the methods we use for making recommendations at Etsy. The MapReduce implementations of all t
はじめるDeep learning - Qiita
そうだ、Deep learningをやろう。そんなあなたへ送る解説記事です。 そう言いながらも私自身勉強しながら書いているので誤記や勘違いなどがあるかもしれません。もし見つけたらご連絡ください。 Deep learningとは こちらのスライドがとてもよくまとまっています。 Deep learning つまるところ、Deep learningの特徴は「特徴の抽出までやってくれる」という点に尽きると思います。 例えば相撲取りを判定するモデルを構築するとしたら、普通は「腰回りサイズ」「マゲの有無」「和装か否か」といった特徴を定義して、それを元にモデルを構築することになります。ちょうど関数の引数を決めるようなイメージです。 ところが、Deep learningではこの特徴抽出もモデルにやらせてしまいます。というか、そのために多層、つまりDeepになっています。 具体的には頭のあたりの特徴、腰のあ
Deep Learningと画像認識� �～歴史・理論・実践～
Several recent papers have explored self-supervised learning methods for vision transformers (ViT). Key approaches include: 1. Masked prediction tasks that predict masked patches of the input image. 2. Contrastive learning using techniques like MoCo to learn representations by contrasting augmented views of the same image. 3. Self-distillation methods like DINO that distill a teacher ViT into a st
Vol.27 No.3 (2012/05) Latent Topic Model (潜在的トピックモデル) | 人工知能学会 (The Japanese Society for Artificial Intelligence)
私のブックマーク Latent Topic Model (潜在的トピックモデル)東京大学 情報基盤センター助教 佐藤 一誠 (Issei Sato) URL: http://www.r.dl.itc.u-tokyo.ac.jp/~sato/ 1.はじめに 近年、Topic modelと呼ばれる確率的潜在変数モデルが、機械学習とデータマイニングの境界分野で盛んに研究されています。また、Topic modelは、自然言語処理、画像処理、Web解析など様々な応用分野でも多くの適用例が報告されています。 ここでは、Topic modelの研究に関する情報を紹介します。 2.国際会議機械学習およびデータマイニングでは、主に国際会議で最先端の議論がされているため、主要国際会議を把握しておくことが重要です。Topic modelの研究では、主に以下の国際会議が重要視されています。 Neural Info
H2OのRパッケージ{h2o}でお手軽にDeep Learningを実践してみる(2)：学習データとパラメータを変えて試す - 渋谷駅前で働くデータサイエンティストのブログ
うっかりこのシリーズでJapan.Rで喋ることに決めてしまったせいで関係各方面からのプレッシャーを感じつつある今日この頃ですが。 ともあれ一度乗ってしまった舟なので、このままだらだら{h2o}でDeep Learningというお題でちょっとシリーズ的にやってみようと思います。前回は適当に決定境界を描くところまではやってみたので、今度はパラメータをいじりながら決定境界を描き分けるということをやってみます。なお、他の分類器との比較という点では以前の記事をご覧いただくのがよろしいかと。 そうそう、前回もちょっと書きましたが今回のシリーズではスモールデータしか扱いませんので、必然的にDeep Learningならではの利点が生きない局面も多いです。この点はそもそも大して手間をかけてない記事なのでどうか悪しからず、ということで。。。ちなみに最近話題のCaffeなんかも興味はありますし、さらに画像分類
Theano の 基本メモ - Qiita
ブログ投稿の続きとして、スライドに書けなかったTheanoの細かい部分についてもう少しまとめておこうと思います。 まず、Theano 解説 はTheano特徴を簡潔に表現されているので、一読をオススメします。 ここでも書かれていますが、Theanoの特徴として、 実行時にCコードを生成してコンパイル GPUでの実行のサポート(要CUDA) 自動微分 などがあげられると思います。 Theanoの超簡略チュートリアル http://deeplearning.net/software/theano/tutorial/index.html#tutorial の乱暴な要約です。 まず常にImportしておく３つ この３つはお約束です。 これだけ知っておけば概ね大丈夫 以下の事柄がだいたい理解できれば、Deep Learningの実装を読んで理解したり、変更を加えたりすることができると思います。 T.
Learning with Structured Inputs and Outputs
Learning with Structured Inputs and Outputs Christoph Lampert Institute of Science and Technology Austria Vienna (Klosterneuburg), Austria INRIA Summer School 2010 Learning with Structured Inputs and Outputs Overview... 15:30–16:30 Intro + Conditional Random Fields 16:30–16:40 — mini-break — 16:40–17:30 Structured Support Vector Machines Slides and References: http://www.christoph-lampert.org "Nor
【ML advent calendar 2012記事】Computer... | DERiVE コンピュータビジョン ブログ
このサイトについて DERiVEはコンピュータビジョン、画像認識が専門のMasaki Hayashiがお送りしている、コンピュータビジョン(Computer Vision)を中心としたITエンジニア、研究向けのブログです。※「DERiVE メルマガ別館」は2015/9月で廃刊致しました、 ML Advent Calendar2012のこの記事へのリンクから飛んできた皆さんこんにちは。この記事は私が担当させていただく、2012/12/19のML advent calender向け記事になります。 まず最初に、はじめてこのブログにいらっしゃった非コンピュータビジョンクラスタ向けに、簡単に自己紹介をしておきます。私は慶応義塾大学の後期博士課程に所属している、学生研究者の林(@payashim)と申します。私は修士修了後、（画像以外の計測も含めて）各種計測システムの開発者をしておりましたが、昨年退
H2OのRパッケージ{h2o}でお手軽にDeep Learningを実践してみる(1)：まずは決定境界を描く - 渋谷駅前で働くデータサイエンティストのブログ
我らが自称ゆるふわ*1ガチ勢代表@motivic_氏がこんな記事をupしてました。 ということで、こんなに簡単にDeep LearningをR上で試せるんだったらついでに僕もやってみようと思ったのでした。ただし同じirisでやるのも芸がないので*2、そこはちょっと変えてみましたよーということで。 そうそう、Deep Learningの原理については@0kayuさんのまとめがめちゃくちゃ参考になると思うので、是非是非ご参照ください。 実装ディープラーニング 今回はまだ初歩の初歩しか触りませんが、それでもチューニングのところなどにこのスライドにも出てくるような様々な原理的側面がかかわってきます。 そもそもH2Oって何だっけ 0xdata - H2O h2o/R at master · 0xdata/h2o · GitHub 元々H2Oはin-memoryプラットフォームとしてHadoop上や最
実装ディープラーニング
cvpaper.challengeはコンピュータビジョン分野の今を映し、トレンドを創り出す挑戦です。論文サマリ・アイディア考案・議論・実装・論文投稿に取り組み、凡ゆる知識を共有しています。 http://xpaperchallenge.org/cv/ 本資料はViEW2021チュートリアルセッション「最新研究の始め方」のプレゼン素材です。また、xpaper.challengeの2020年末ワークショップとしてプレゼンした「研究効率化Tips」の拡張版です。本資料では3社12研究室300ページにわたるノウハウの詰め合わせです。 VIEW2021のチュートリアルセッションでは時間の制限があるため、こちらの資料から一部抜粋して発表を行うことになりますが、VIEW2021チュートリアルセッションの方にも足を運んでいただければ幸いです。 VIEW2021チュートリアルセッション：http://vie
ML(Machine Learning :機会学習)用のサンプルデータベース（人物、車） - cslabの日記
歩行者（人の全身）、車の画像認識の機械学習のトレーニングデータセット。顔認識のデータベースは後ほど調査予定 人物（全身）用 Daimler Pedestrian Classification Benchmark Dataset 歩行者検出用に人の全身を切り出したサンプルデータがある。歩行者を単身で抜き出したサンプルで、ほぼ、人をバウンディングボックスで囲った領域で切り出していあり、非常に精度よく集められてたサンプル。「人全身写真×４８００枚＋人でない写真×５０００枚」 のセットが５セット用意されている。画像サイズは１８ピクセル×３６ピクセルに統一されている。画像形式がPGMという一般的ではないものなので利用時は注意。 http://www.gavrila.net/Research/Pedestrian_Detection/Daimler_Pedestrian_Benchmark_D/D
手元に置いておくと安心できる、情報系の人向けな日本語の本のリスト - EchizenBlog-Zwei
最近、人に本を薦める事が多くなった。とりあえずこの辺を読むといいですよ的なリストを作っておくと便利だと思ったので作ることにした。 以下、「事前知識のいらない入門本」「事前知識はいらないけど本格的な本」「事前知識がないと何言ってるかわからないけど有益な情報が満載な本」の3つにわけて列挙する。 事前知識のいらない入門本 数式少なめ、脳負荷の小さめな本をいくつか。何をやるにしてもデータ構造、アルゴリズム、数学はやっておくと幸せになれるよ。 情報検索と言語処理 データマイニングとか自然言語処理とかやりたい人にはとりあえずこれ。さすがに古い話が多くなってきたのでそろそろ新しい入門用情報検索本がでないかなあと思っている。 図解・ベイズ統計「超」入門 伝説のベイジアン先生がベイズの基礎を教えてくれる本。ベイズやりたい人はこれ。 珠玉のプログラミング データ構造とかアルゴリズムとかの考え方の基礎を教えてく
高村本でCRFのお勉強をしたのでメモ - EchizenBlog-Zwei
「言語処理のための機械学習入門」通称高村本でCRF(Conditional Random Fields, 条件付き確率場)のお勉強をしたのでメモしておく。 まず最初に世界には単純な線形識別関数があった。 y = wxこの線形識別関数で、素性はxそのもの。人々はよりリッチな素性が欲しくなったので事例xと正解ラベルtによって定まる素性φ(x, t)を思いついた。つまり y = wφ(x, t)である。さらにこれを確率化したくなった。確率とはつまり 1: P(x) >= 0 2: ΣP(x) = 1を満たす関数のこと。まずは1:を考える。つねにゼロ以上の値をとればよいのでyをexp(y)とする。こうすると y = -∞ => exp(y) = 0 y = ∞ => exp(y) = ∞ となりゼロ以上になることが保障される。つぎに2:を考える。足して1にするには全てのexp(y)の和で各exp(
Big Data時代の大規模ベイズ学習�-Stochastic Gradient Langevin Dynamics�を中心として
Big Data時代の大規模ベイズ学習�-Stochastic Gradient Langevin Dynamics�を中心として
教師付き機械学習を始めるにあたって - ありんこのつぶやき
2014-08-12 教師付き機械学習を始めるにあたって 教師付き機械学習における憂慮点 ・訓練データとテストデータが異なる規則に従って生成されれば、訓練データからテストデータに関する情報が抽出できない。 →意味のある学習を行うためには訓練データとテストデータが何らかの共通点を持つ必要がある。 http://sugiyama-www.cs.titech.ac.jp/~sugi/2007/covariate-shift2-jp.pdf ・識別器の学習に必要なテストデータの数は次元数の増加と共に急激に増加する（次元の呪い） →一般にデータ集めは難しいため、その分次元を圧縮する必要がある。次元圧縮は正則化や主成分分析が挙げられる。（最適なバランスはトライ＆エラーで求めるしかない？） http://roadtomachinelearning.blogspot.jp/2012/10/blog-pos
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
最適化超入門
ディープラーニング チュートリアル（もしくは研究動向報告）
Learning Deep Architectures for AI （第 3 回 Deep Learning 勉強会資料; 松尾）
