わからないLSTM 〜最近の機械学習はホントどうかしてる - カニカニクラブライフ
仕事で時系列データから何か答えを出せたらいいよね的な話題があって、欲をぶっかいて深層学習を使ってやろう、そしてTensorFlowにてLSTM*1を使おうと企んでる訳です。 タイトルは特に意味はなく、わかるLSTM ～ 最近の動向と共に - Qiitaに対する勝手なアンサーソングです。 ネットで集められる情報を集めたというだけの自分用メモで、おそらくあなたにとって有用な情報は書いていません。また、随時メモを追記する予定です。 LSTMとは？ に関する記事 ① わかるLSTM ～ 最近の動向と共に - Qiita ・LSTMの歴史的経緯から言及し、日本語で書かれた記事の中でおそらく最も詳細に仕組みを解説。数式で書き下しもしている。 ・LSTMには４つのバージョンが存在している。そしてchainerがどのバージョンなのかについて言及。 ・誤差逆伝播時の図解もあるのは、珍しい。 ・テンソルの書き
東大松尾研、データサイエンティスト育成講座の演習を無料公開
東京大学大学院工学研究科の松尾研究室は3月19日、データ解析からモデルのアウトプットまで学べる講座「GCIデータサイエンティスト育成講座」（正式名：グローバル消費インテリジェンス寄附口座）で利用している演習コンテンツをWebで無償公開した。個人で学習する目的に限り、誰でも無料で利用できる。「無償公開によって、実社会で価値を生むことができるデータサイエンティストの育成拡大を目指す」としている。 Jupyter Notebook形式で作成された全15章の演習コンテンツ。データのセットアップから解析、可視化やモデルのアウトプットまでを一気通貫で学べるという。データサイエンスの主要言語Pythonの基礎から学べるほか、統計的数値計算や機械学習に関する技術、SQLやMongoDB、分散処理フレームワークのSparkなど、ビッグデータ解析に関する技術も学習できる。 個人で学習する目的のみで無償で利用で
東大松尾研、「Deep Learning基礎講座」の演習コンテンツを無償公開
東京大学松尾研究室（松尾豊特任准教授）は1月24日、東京大学の公開講座「Deep Learning基礎講座」で実際に使っている演習コンテンツの無償公開を始めた。GPUを使ってモデルを学習する実践的な内容で、個人・非商用に限って無料で利用できる。 Jupyter Notebook形式で作成された研究者向け演習コンテンツで、Jupyter環境があれば利用可能。GPUを利用し、実際にモデルを学習させながら技術を習得できる。線形代数や機械学習が前提知識として必要。コードはTensorFlowと、Numpy、Scipy、Scikit-learnなど標準的なライブラリで構成した。公開したのは演習パートのみで、講義パートのコンテンツは別。 個人で学習する目的のみで無償で利用でき、講習会や教室などでの利用は不可。クリエイティブ・コモンズの「CC-BY-NC-ND」（表示 -改変禁止- 非営利-一般）が適用
自然言語処理におけるDeep Learning
自然言語処理における Deep Learning 東北大学大学院情報科学研究科 岡崎 直観（okazaki@ecei.tohoku.ac.jp） http://www.chokkan.org/ @chokkanorg 2017-03-22 Deep Learning 自然言語処理における 1 自然言語処理とは • 言葉を操る賢いコンピュータを作る • 応用: 情報検索，機械翻訳，質問応答，自動要 約，対話生成，評判分析，SNS分析，… • 基礎: 品詞タグ付け（形態素解析），チャンキ ング，固有表現抽出，構文解析，共参照解析， 意味役割付与，… • 多くのタスクは「入力𝑥𝑥から出力� 𝑦𝑦を予測」 � 𝑦𝑦 = argmax 𝑦𝑦∈𝑌𝑌 𝑃𝑃(𝑦𝑦|𝑥𝑥) ※確率ではないモデルもあります 2017-03-22 Deep Learning 自然言語処理における
Stanford CS 224N | Natural Language Processing with Deep Learning
Logistics Lectures: are on Tuesday/Thursday 4:30 PM - 5:50 PM Pacific Time in NVIDIA Auditorium. The lectures will also be livestreamed on Canvas via Panopto. Lecture videos for enrolled students: are posted on Canvas (requires login) shortly after each lecture ends. Unfortunately, it is not possible to make these videos viewable by non-enrolled students. Publicly available lecture videos and vers
Deep learningに必須なハード：GPU - HELLO CYBERNETICS
はじめに 計算性能は必須 CPUとGPU CPU GPU GPGPU ベンチマーク 様々な環境での実験 ニューラルネットの構造を変えた実験 GPUの情報 ディープラーニングのGPU TensorFlowが認識するGPUの性能 2017年GPUの早見表（デスクトップ向け） 紹介 はじめに 計算性能は必須 もし、まともにディープラーニングをやりたいと思うのであれば、コンピュータの性能を無視することはできません。もともとニューラルネットワークは計算量の問題があって今まで冷や飯を食ってきた技術です。 計算性能の向上がニューラルネットを大きく支えていると言っても過言ではないのです。 どのフレームワークを使っても、大抵はMnistを使った画像認識のタスクがチュートリアルにあるでしょう。これは次元のベクトルを入力データとして受け取ります。 これだけでも中々膨大な計算量になりそうなのが何となく分かるでしょ
ベイズ推定とDeep Learningを使用したレコメンドエンジン開発
第1回Webインテリジェンスとインタラクションセミナー（いまさら訊けないシリーズ「言語処理技術」）での発表資料です。 https://www.sigwi2.org/next-sig
A Complete Guide on Getting Started with Deep Learning in Python
Here’s the learning path to master deep learning in 2020! Introduction Deep Learning, a prominent topic in Artificial Intelligence domain, has been in the spotlight for quite some time now. It is especially known for its breakthroughs in fields like Computer Vision and Game playing (Alpha GO), surpassing human ability. Since the last survey, there has been a drastic increase in the trends. (click
ChainerでCIFAR-10の分類を行ってみる - のんびりしているエンジニアの日記
皆さんこんにちは お元気ですか。私は元気です。 前回はChainerの紹介をしました。nonbiri-tereka.hatenablog.com 本日はこのChainerを使って、CIFAR-10の分類を行ってみようと思います。 アーキテクチャとして利用するのはConvolutional Neural Networkを利用します。 What is CIFAR-10 CIFAR-10 and CIFAR-100 datasetsにあるデータセットです。32x32pixelのカラー画像を10のクラスに分類する問題が含まれています。 画像の大きさはTraining画像が50000枚、Test画像が10000枚です。 研究とかのベンチマークでお世話になっている人も多いと思いますが・・・ 以下の図は本家に掲載されているサンプル画像です。 データセットの読み込み CIFAR-10ではPythonでの読
時系列データを高精度に分析する新たなDeep Learning技術を開発 : 富士通
English PRESS RELEASE （技術） 2016年2月16日 株式会社富士通研究所 時系列データを高精度に分析する新たなDeep Learning技術を開発 IoTデータに適用し、既存技術に比べ約25％の大幅な精度向上を実現 株式会社富士通研究所（注1）(以下、富士通研究所)は、IoTアプリケーションに活用が期待される、振動が激しく人による判別が困難な時系列データに対して高精度な解析を可能とするDeep Learning技術（注2）を開発しました。 Deep Learning技術は、人工知能の発展におけるブレークスルーとして注目されており、画像や音声では極めて高い認識精度を達成している一方で、適用できるデータの種類は限られています。特にIoT機器などから得られる、人による判別も困難なほどの激しい振動の時系列データを精度よく自動的に分類することは困難でした。 今回、最先端数学を
How convolutional neural networks see the world
Note: this post was originally written in January 2016. It is now very outdated. Please see this example of how to visualize convnet filters for an up-to-date alternative, or check out chapter 9 of my book "Deep Learning with Python (2nd edition)". An exploration of convnet filters with Keras In this post, we take a look at what deep convolutional neural networks (convnets) really learn, and how t
GoogleとUDACITY、「TensorFlow」で学ぶディープラーニング講座を開設
米Googleは1月21日（現地時間）、無料オンライン学習プログラム（MOOC）UDACITYと協力し、ディープラーニングを学べる無料コース「Deep Learning：Taking machine learning to the next level」を開設したと発表した。 この短期間の集中コース（約3カ月）は、ニューラルネットワークやLong short term memory network（LSTM）など、ディープラーニングの基本を学べる。学習にはGoogleが昨年11月にオープンソース化した機械学習システム「TensorFlow」を使う。 このコースを履修すると、機械学習のナノ学位を取得できる上級コース「Machine Learning Engineer Nanodegree」（月額199ドルから）を受講できる。 Googleは「このコースの目標は、機械学習に高い関心のある人々に
ディープラーニングの有名ライブラリ5種を最短距離で試す半日コース（TensorFlow, Chainer, Caffe, DeepDream, 画風変換） - その後のその後
「いつか勉強しよう」と人工知能／機械学習／ディープラーニング（Deep Learning）といったトピックの記事の見つけてはアーカイブしてきたものの、結局2015年は何一つやらずに終わってしまったので、とにかく一歩でも足を踏み出すべく、本質的な理解等はさておき、とにかく試してみるということをやってみました。 試したのは、TensorFlow、Chainer、Caffe といった機械学習およびディープラーニングの代表的なライブラリ／フレームワーク3種と、2015年に話題になったディープラーニングを利用したアプリケーション2種（DeepDream、chainer-gogh）。 （DeepDreamで試した結果画像） タイトルに半日と書きましたが、たとえばTensorFlowは環境構築だけなら10分もあれば終わるでしょうし、Chainerなんてコマンド一発なので5秒くらいです。Caffeは僕はハ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
KDnuggets
【福田昭のセミコン業界最前線】 「機械学習」が最先端半導体回路の研究を熱くする
国内産業の競争力向上を目指す「日本ディープラーニング協会(JDLA)」が設立 ～記念シンポジウムを「CEATEC JAPAN 2017」で開催
Deep Learning
ソニー、視覚的にディープラーニング設計・評価ができる開発環境。IoT対応に強み
TechCrunch | Startup and Technology News
長文日記
