I’ve read dozens of books and taken many classes on machine learning. fast.ai is, by far, the most practical way to get started with deep learning. In this post I’ll share my experience after completing the first 2 lessons. Trust me — starting with math is a bad way to learn AI22 years ago I sat in Bernie Widrow’s Neural Networks class at Stanford and watched the father of the digital filter pains
最近、fast.aiのPractical Deep Learning for CodersというMOOCを受講している。 この講座は 無料 動画形式の講義(1回2時間というボリューム) Jupyter NotebookとKerasを使用 CNN、Finetuning、VGG16、ResNet、RNNなどが実践的な例題を通して学べる 実務家がDeep Learningで自分の問題を解決できることが目標 という特徴がある。講義内容は高度で実践的なものが多い印象。例えば、Lesson1でMNISTと思いきや・・・いきなりKaggleのDogs vs. CatsをVGG16 + Finetuningで解いてKaggleに投稿するところまでが課題になっている。これさえできれば画像認識が必要ないろんな課題に同じ技術を適用できるとのこと。 今はまだPart1しかないが、ForumのなかでPart2の動画
こんにちは、スマートニュースの徳永です。深層学習業界はGANだとか深層強化学習だとかで盛り上がっていますが、今日は淡々と、ニューラルネットワークの量子化の話をします。 TL;DR パラメータだけを量子化するのであれば、ほぼ精度を落とさずに、パラメータのデータ容量は1/16程度にまで削減できる パラメータ、アクティベーション、勾配のすべてを量子化し、推論だけでなく学習までもビット演算だけで実現する研究が進んできている 現在は深層学習 = GPU必須というぐらいの勢いがあるけど、量子化の研究が進むと、今後はどうなるかわからないよ はじめに 情報理論における量子化とは、アナログな量を離散的な値で近似的に表現することを指しますが、本稿における量子化は厳密に言うとちょっと意味が違い、十分な(=32bitもしくは16bit)精度で表現されていた量を、ずっと少ないビット数で表現することを言います。 ニュ
On distributed systems broadly defined and other curiosities. The opinions on this site are my own. This is a paper by Google that is under submission to ICLR 2017. Here is the OpenReview link for the paper. The paper pdf as well as paper reviews are openly available there. What a concept! This paper was of interest to me because I wanted to learn about dynamic computation graphs. Unfortunately al
cvpaper.challengeにて2017年4月にサーベイした論文のまとめです。 充分に進化したコンピュータ視覚(Computer Vision; CV)は人間に新しい知見をもたらす。cvpaper.challengeではCVが飛躍的に進んだ先に、人間に対して拡張した知能や技能を教示できる、と位置づけ論文読破・まとめ・アイディア考案・議論・実装・論文執筆(・社会実装)に至るまで広く取り組み、その過程で出てきたあらゆる知識を共有します。 2015〜2016年は1,600本以上の論文まとめを全て公開し、著名な国際会議のWSにおいて受賞を経験しました。2017年はさらにアウトプットにこだわり、突出した成果を出すことを目標とします。 SlideShareにて論文まとめや講演資料を公開し、Twitterでも情報を共有しております。 HP: https://sites.google.com/sit
これは リクルートライフスタイル Advent Calendar 2016 の23日目の記事です。 この記事は何? ども、データエンジニアリンググループで主にログ収集・解析基盤の面倒を見ている tmshn と申します この記事は、私が機械学習のトップカンファレンスである NIPS に参加して感じたことや注目した発表などを共有するものです。 機械学習の研究界隈の最新の動向について把握するのに役立つかも知れ……いや、うーん、やっぱ役立たんかも。私の所属するグループ※の特性上、「機械学習における研究とアプリケーションの橋渡し」 という観点で見ていただいた方がいいかも知れませんね。 ※ 弊グループがどんなグループかについては、6日目の _stakaya さんの記事 を御覧ください NIPS とは? 正式には "Conference on Neural Information Processing
Hamid Palangi Principal Researcher at Microsoft Research, Affiliate Associate Professor at the University of Washington Two weeks ago I attended the deep learning summer school at Montreal organized by Yoshua Bengio and Aaron Courville. Below is a summary of what I learned. It starts from basic concepts and continues with more advanced topics. 1. Essence of regularization Two popular regularizatio
This document summarizes recent advances in single image super-resolution (SISR) using deep learning methods. It discusses early SISR networks like SRCNN, VDSR and ESPCN. SRResNet is presented as a baseline method, incorporating residual blocks and pixel shuffle upsampling. SRGAN and EDSR are also introduced, with EDSR achieving state-of-the-art PSNR results. The relationship between reconstructio
8/21にO'REILLYからO'Reilly Japan - Caffeをはじめようが発売されました。 著者はヤフーのバックエンド開発に携わっているエンジニアの石橋崇司さんで電子書籍版のみのようです。 価格が1620円とお手頃だったので早速買って読みました。 構成 構成は 第1章 深層学習 第2章 Caffeの紹介 第3章 Caffeを使ってみよう 第4章 畳み込みニューラルネットワーク(Convolutional Neural Network、CNN) 第5章 Caffeの独自要素 第6章 もっとCaffeを使ってみよう 第7章 モデルの学習における技術 付録A Caffeの開発に貢献する 付録B Datasets となっています。 第1章はILSVRC2012でHintonのチームが優勝したなどの一般的な深層学習についての紹介でした。 第2章はCaffeのフォルダ構成やインストール方
今月号のニュートンの「人工知能が人類を超える日」を読みながら、人工知能トピックの論点を整理する必要があるな、と思った。 Newton(ニュートン) 2015年 04 月号 [雑誌] Amazon.co.jpで詳細をチェック 楽天市場でこの商品を検索 というのも、シンギュラリティという言葉を引き合いに出して、2045年までにAIが人類を超えるというのが、昨今の人工知能特集のメイン。だいたいそこに、Deep Learningと人間の仕事をAIが奪うというトピックを併せて、それっぽい現在の事例を並べるという構造を取っていることが多い。ニュートンもそうだし、最近みた人工知能系の特集はこのパターンが多い。ニュートンがちょっとおもしろかったのは、「人工頭脳プロジェクト〜ロボットは東大にはいれるか〜」の紹介で、センター試験物理の問題をコンピュータが理解するための技術的課題を整理している。これは、結構おも
Pinterest is an equal opportunity employer and makes employment decisions on the basis of merit. We want to have the best qualified people in every job. All qualified applicants will receive consideration for employment without regard to race, color, religion, sex, sexual orientation, gender identity, national origin, disability, protected veteran status, or any other characteristic under federal,
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く