はてなブックマーク

まとめ・検索 Browse state-of-the-art arxiv sanity awesome-deep-learning-papers Search ICLR 2019 朱鷺の杜Wiki 解説・輪読 cvpr-challenge nlpaper-challenge Deep Learning JP arXivTimes ブログ IBM Research Blog Stanford NLP Group The Berkeley Artificial Intelligence Research Blog I’m a bandit - Random topics in optimization, probability, and statistics. By Sébastien Bubeck Airbnb Engineering & Data Science(Medium) faceb

Bayesian Reasoning and Machine Learning Computer Vision: Algorithms and Applications David MacKay: Information Theory, Pattern Recognition and Neural Networks Deep Learning Elements of Statistical Learning: data mining, inference, and prediction Introduction to Data Mining Introduction to Information Retrieval Reinforcement learning: : An Introduction Think Stats : Probability and Statistics for P

日本語のラベルが文字化けしないようにする legend(凡例)の表示方法の指定 通常 スタイルシートで指定する 場所を指定(グラフ枠内) 凡例表示を複数列に分割する, 枠に影をつける, 横幅いっぱいにする グラフの枠外に表示する 凡例にタイトルをつける 凡例を分割して別々に表示する ラベル名を任意の文字列に付け替える 凡例の大きさ, フォントサイズ, 行間のスペースを変える その他の可視化例 株価データのプロット 決定木(分類)の可視化 決定木(回帰)の可視化 参考文献 たまに使うmatplotlibでのグラフ・プロットの作成の際のラベルの表示例です。 日本語のラベルが文字化けしないようにする pip install japanize-matplotlibなどとして japanize-matplotlibをインストールして下さい。その後、コードの中でimport japanize_matp

LDA用のデータの作成 単語の辞書を作成して出力 外部に保存したコーパスと辞書の読み込み LDAの実行 コード 出力例 gensimとjanomeを用いたLDAを行います。 必要なデータは一行ごとに文章が入ったtxtファイルです。 LDA用のデータの作成 data.txtには一行ごとに文章が保存されています。 この文章から名詞のみを取り出して、word_vectorに保存していきます。 import codecs as cd import gensim from janome.tokenizer import Tokenizer from gensim import corpora, models, similarities filename = 'data.txt' file = cd.open(filename, 'r', 'utf-8') lines = filed.readline

定義 Zero Shot Learning one shot learning 関連研究・スライド 2008年 Zero-data Learning of New Tasks 2009年 Zero-Shot Learning with Semantic Output Codes Learning To Detect Unseen Object Classes by Between-Class Attribute Transfer 2013年 Zero-Shot Learning Through Cross-Modal Transfer DeViSE: A Deep Visual-Semantic Embedding Model 2014年 Transductive Multi-view Embedding for Zero-Shot Recognition and Annotation 2

マルチラベルデータのプロット プロットするデータの作成 二次元で可視化 三次元で可視化 三次元で可視化してそれを回転させるアニメーションを作成 分類問題データのプロット Isomapで次元削減したものを可視化 プロットのマーカを変える＋ランダムに色を生成する その他 矢印をプロットに追加 棒グラフなどを模様で埋める(hatch) jupyter notebookでアニメーションを埋め込む 長方形の枠をプロットする ヒートマップのアニメーション 利用可能なカラーマップの取得 利用可能なマーカー（点の形）の一覧の取得 ラベルの位置の調整 その他のプロットのサンプルコード 宇宙工学・天文学など seaborn のギャラリー matplotlibのギャラリー 毎回ぐぐるのもあれだったので。 よく使うものでなるべくドキュメントのギャラリーになさそうなもの。 適当に追記するかもしれません。 マルチラベ

やること Quantile Regression イメージ scikit-learnのGradientBoostingでの実装 XGBoostの目的関数を変更する 目的関数 結果 他の目的関数 やること xgboostの目的関数を定義済みのものから自分で定義したものに変える。 回帰は常に 正解ラベル＝予測の平均値 だったらいいのだけれど、予測を外したらまずいケースも現実問題では存在する。 なので、予測を外したらダメなケースだけは特にペナルティを大きくした目的関数を自分で定義したかった。 今回は練習でQuantile Regressionをxgboostを使って行う。 Quantile Regression Koenker, Roger. Quantile regression. No. 38. Cambridge university press, 2005. イメージ の赤実線以下のサン

CS 598 LAZ: Cutting-Edge Trends in Deep Learning and Recognition CS 294: Deep Reinforcement Learning, Spring 2017 UCL Course on RL Sutton本 CS294をいつか見たいけれども、朝になった。 次はTree-structured Parzen Estimatorとかを調べる予定。 CS 598 LAZ: Cutting-Edge Trends in Deep Learning and Recognition 講義ページ：CS 598 LAZ 最近の deep 系の主な話題を順番にふれていく講義。強化学習も途中に一回。Feature pyramid networksとか 2016/12 以降の完全に追いきれていないテーマの説明がスライドにあるので、概要を把握する

ハイパーパラメータの定義 探索手法 Random Search Manual coordinate descend Grid Search Particle Swarm Optimization Genetic Algorithm Sequential Model-Based Optimization(SMBO) Tree-structured Parzen Estimator(TPE) Sequential Model-Based-optimization for general Algorithm Configuration(SMAC) Fast LineAr SearcH(FLASH) Optuna 参考文献 ねむい。SMACとTPEが概要しかつかめていないので次はここを調べよう。 追記：jsaiにて発表があるのを見つけました、行けばよかった...自分で断っといといてあれだけど...

エラー内容 原因 解決法 解決法１：オプションで指定 解決法２：エラーを放置してshift-jisに変換 関連ページ エラー内容 例えば、以下のようなエラーメッセージが表示される。 UnicodeDecodeError: 'utf-8' codec can't decode byte 0x92 in position 0: invalid start byte UnicodeDecodeError: 'utf-8' codec can't decode byte 0x95 in position 0: invalid start byte UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 0: invalid start byte 'utf-8' codec can't decode byte 0x??

まとめ資料 サーベイ The Deep Learning textbook by Ian Goodfellow and Yoshua Bengio and Aaron Courville Deep Learning in Neural Networks: An Overview 画像・動画 画像分類問題 AlexNet (ImageNet Classification with Deep Convolutional Neural Networks) GoogLeNet Visual Geometry Group Network 物体認識 R-CNN Fast R-CNN Faster R-CNN YOLO: Real-Time Object Detection Overfeat 特徴抽出・エンベッディング Caffe: Convolutional architecture for fast

モデルの定義 モデルの精度の確認 コード 出力 Bidirectional LSTMを使って時系列データを2クラスに分類できるか確かめる。 Schuster, Mike, and Kuldip K. Paliwal. "Bidirectional recurrent neural networks." IEEE Transactions on Signal Processing 45.11 (1997): 2673-2681. らによって導入された LSTMの拡張版。以下にBidirectional LSTMの簡単な説明とコードあり。 www.wildml.com github.com モデルの定義 model = Sequential() model.add(Embedding(100, 128, input_length=X_train.shape[1])) model.add(Bid

次元削減とは データの次元削減(Dimensionality reduction) + データの可視化(Data Visualization) PCA Principal Component Analysis(PCA) randomized PCA Online Robust Principal Component Analysis(OR-PCA) 多様体学習 t-Distributed Stochastic Neighbor Embedding(t-SNE) Multidimensional Scaling(MDS) Isomap Locally Linear Embedding (LLE) Laplacian Eigenmaps(LE) Semidefinite Embedding (SDE) Latent Dirichlet Allocation(LDA) Labeled LDA P

pdf サンプルコード 追記 このドラフト版の前の本 Sutton, Richard S., and Andrew G. Barto. Reinforcement learning: An introduction. Vol. 1. No. 1. Cambridge: MIT press, 1998.　で有名なRichard S. Sutton氏による新しい強化学習本のドラフト版が以下のページより閲覧できます。総計400p超＋サンプルコードあり。 pdf タイトル：Reinforcement Learning: An Introduction. Richard S. Sutton and Andrew G. Barto https://webdocs.cs.ualberta.ca/~sutton/book/the-book-2nd.html サンプルコード github.com 追記 バン