畳込みニューラルネットワークの基本技術を比較する ーResnetを題材にー - Qiita
今更ながら、畳込みニューラルネット（CNN）の基本技術を比較します。 やりたいことは、どの技術が一番効果があるのか数値化します。 以下の流れでやっていきます。 （基本のCNN） → （Resnetの各技術を追加していく） → （+最先端技術） 基本のCNNに、Resnetに出てくる技術を追加しながら、分類精度の上昇幅を比較します。 コードはkerasで書いています。 Resnetとは 2015年に登場したモデルで、層を飛ばす仕組みを作ることで、深い層を作っても 学習可能なモデルとなりました。ディープラーニング業界では、斬新なアイデアで 革命を起こしました。 詳しくは以下の記事をご覧下さい。 https://qiita.com/koshian2/items/343a55d59d8fdc112661 データのダウンロード 使うデータはCIFAR-10です。これは、32×32サイズの画像が入った
Res-Netsの有効性をCIFAR-10で確認する - Qiita
畳み込みニューラルネットワーク（CNN）で成功を収めたネットワークの1つにRes-Nets（Residual Networks、残差ネットワーク）があります。一般にRes-Netsを使うと勾配消失問題に強いとされます。CIFAR-10データセットを使ってRes-Netsの有効性を軽く確認してみました。 元の論文 K.He, X.Zhang, S.Ren, J.Sun, "Deep Residual Learning for Image Recognition", 2015 https://arxiv.org/pdf/1512.03385.pdf 残差ブロック（Residual Block）とは このようにショートカット構造のあるレイヤーの組み合わせ（ブロック）のこと。K.He et al.(2015)より 分岐前の活性化関数適用後の値を$a^{[l]}$とすると、合流後の活性化関数適用前の
OSSベースの機械学習が強い理由
英語版はこちら。 TensorFlowの登場以降、OSSベースの機械学習の盛り上がりは加速しています。Kerasの作者のFrançois Cholletさんの言葉が、この状況を非常に端的に表しています。これだけでも十分だとは思いますが、この記事では、なぜオープンソースの機械学習が強いのか、最近のどういった流れがあるのかを整理したいと思います。 tl;dr機械学習やDeep Learningのフレームワークが充実してきた論文が査読前に公開され、他社も簡単にアルゴリズムの検証ができるようになった多くのプレーヤーの参戦により、アカデミアでの機械学習の研究がレッドオーシャン化した他社にないアルゴリズムで一発勝負、実装は秘密、というアプローチが厳しい牧歌的な時代5年前10年前の世界では、先端の機械学習に取り組んでいるのは大学などの研究室、大企業の研究所や一部の先進的な企業がほとんどでした。特に、ラベ
【xkcd】pythonコードにたった一行で漫画のようなグラフを作る！ - プロクラシスト
xkcdとは 世界一で最も人気のあるウェブ漫画の一つです xkcd: Code Quality 3 ランダル・マンローが2005年9月に開設 皮肉や風刺が得意。理系ネタが結構多い。 現在は週3回更新されている キャラやフォントが特徴的 これとか皮肉が効いてていいですね！好きです A : 寝ないの？ B : 寝られないんだ、大事なことがある A : なによ？ B : 誰かがインターネットでボロを出してるんだ xkcd: Duty Calls 実はmatplotlibを使えば、グラフをxkcd風に仕立てられます。しかもたった一行で！今回はその紹介をします xkcdとは matplotlibで、xkcd requirement 使い方 MatplotlibのHPもxkcd風に サンプルを見てみる 3D 円グラフ 最後に matplotlibで、xkcd requirement matplotli
Notebook Gallery
matplotlib - 2D and 3D plotting in Python The latest version of this IPython notebook lecture is available at http://github.com/jrjohansson/scientific-python-lectures . Visualizing distributions of data This notebook demonstrates different approaches to graphically representing distributions of data, specifically focusing on the tools provided by the seaborn package.
Jupyter Notebook Viewer
J.R. Johansson (jrjohansson at gmail.com) The latest version of this IPython notebook lecture is available at http://github.com/jrjohansson/scientific-python-lectures. The other notebooks in this lecture series are indexed at http://jrjohansson.github.io. # This line configures matplotlib to show figures embedded in the notebook, # instead of opening a new window for each figure. More about that l
StatsFragments
著者の松浦さんから「StanとRでベイズ統計モデリング」をいただきました。ありがとうございます！ 書籍では Stan の R バインディングである RStan を利用していますが、Stan には Python 用の PyStan もあります。松浦さんが書籍 5.1節の PyStan での実行例を書かれています。 statmodeling.hatenablog.com 補足 PyStan については過去にも書いた内容があります。 sinhrks.hatenablog.com 同じように、「StanとRでベイズ統計モデリング」の内容を Python で実施してみました。 11.3 ゼロ過剰ポアソン分布 以降、書籍 "11.3節 ゼロ過剰ポアソン分布" の流れに沿って Python のスクリプトを記載します。ロジックや処理自体の説明は書籍をご参照ください。データと Stan のスクリプトは Gi
Pythonらしいコードの書き方 - Kesinの知見置き場
はてなブログに移行して最初の記事はやはりPythonネタにしました。 はてなブログいいですね。デザインの編集がやりやすくなったのと、Markdownで書けるのが素晴らしいです。 PyCon 2013の動画を見ていたら、素晴らしい"Transforming Code into Beautiful, Idiomatic Python"という発表を見つけたのでそのまとめです。 今どきのPythonコードのベターな書き方を紹介しています。 Transforming Code into Beautiful, Idiomatic Python ... スライドはこちらにありました 結構長くなってしまったので、知ってる項目は読み飛ばしてもらえばと思います。 ループの基本 整数のループ まずは基本のループ。 Cのfor int i=0; i<6; i++をPythonで単純に書くとこうなります。 for
Jupyter (iPython) Notebookを使って技術ノート環境を構築する方法 - MyEnigma
PythonユーザのためのJupyter[実践]入門posted with カエレバ池内 孝啓,片柳 薫子,岩尾 エマ はるか,@driller 技術評論社 2017-09-09 Amazonで最安値を探す楽天市場で最安値を探すYahooショッピングで最安値を探す 目次 目次 はじめに Jupyter Notebook (iPython Notebook)とは? インストール Notebookデータのバックアップ＆マルチアカウントアクセスする設定 Jupyter Notebookのショートカット コマンドモードのショートカット Editモードのショートカット セルを上から全部実行する Markdownで文章を入力する 数式を入力する 数式の計算をする 画像をドロップアンドドラッグで挿入できるようにする 目次を見出し情報から自動生成する レポートタイトルを入力する方法 PDFに出力する Ma
Googleの公開した人工知能ライブラリTensorFlowを触ってみた - LIFULL Creators Blog
こんにちは。おうちハッカーの石田です。 いつもはおうちハックネタばかりですが、今日は人工知能関連の話題です。 今日2015/11/10、Googleが自社サービスで使っているDeepLearningを始めとする機械学習技術のライブラリを公開しました。 TensorFlowという名前で、おそらくテンソルフローと呼びます。 テンソルは、数学の線形の量を表す概念で、ベクトルの親戚みたいなものです。それにフローをつけるということは、そういった複雑な多次元ベクトル量を流れるように処理できる、という意味が込められているのだと思います。 こちらをさっそく触ってみたので、紹介したいと思います。 TensorFlowの特徴 公式紹介ページから特徴をいくつかピックアップします。 Deep Flexibility ~深い柔軟性~ 要望に応じて、柔軟にニューラルネットワークを構築できます。ニューラルネットワークの
自律ロボット開発にROSを使うべきいくつかの理由 - MyEnigma
ROSロボットプログラミングバイブルposted with カエレバ表 允〓,鄭 黎〓,倉爪 亮 オーム社 2018-03-16 Amazonで探す楽天市場で探すYahooショッピングで探す 目次 目次 はじめに Robot Operating System (ROS) ロボット開発にROSを使うべき理由 利点1: オープンソースで無料で使用できる 利点2: 簡単に分散型システムを構築することができる。 利点3. 複数のプログラミング言語に対応している 利点4. 強力な可視化ツール rvizを使うことができる 利点5. 複雑なノード構成を管理・可視化できるツールも付随している 利点6. 座標変換ライブラリtfが使える 利点7. 高機能なデータロギング＆解析ツールが提供されている。 利点8. 世界中の研究者が作成したソフトウェアを使用できる。 ROSを学ぶための資料 ROS.org 『ROS
Python for Windows インストールメモ
Python 自体のインストールは，Windows でも簡単にできますが， いろいろなパッケージもインストールしようとすると一苦労します． 役に立つかはわかりませんが，Windows での Python の開発環境を 構築したときのインストールメモになります．なお，使おうと思っている パッケージを考慮して，32bit 版の Python 2.7 をインストールした 場合になりますので，注意してください． パッケージを 1 つ 1 つインストールするのが面倒な方は， インストールするだけですぐに使える pythonxy（あるいは Python(x,y)） というディストリビューションがあります． インストールすれば，ほぼ MATLAB のような環境が手に入ります． pythonxy Python 本体のインストール手順です． Python.org にアクセスする． "Downloads" -
IPythonを使ってみる。
Wikipediaより 「IPython (あいぱいそん) はPythonを対話的に実行するためのシェルである。オリジナルの Python に比較して、型推定を強化し、対話的実行のための文法を追加してあり、コード・ハイライティングおよびタブによる補完が行える。IPythonは SciPy パッケージの一部として公開されている。」 要するに、IPythonはShellのようなものであり、インタプリタ環境で使うものですね。 でもそれだけではないのです。 IPython notebookこちらの方がすごいっす。 なにがって、Web Browser上でcodingから出力、作図までできちゃうんですよ。 おまけに、codeの補完だってできるのです。 早速使ってみましょう。 今回は、Windows 7 64bit環境にinstallしてみました。 Pythonのversionは2.7.5です。 IPy
データサイエンティストを目指すに当たって、ぜひ揃えておきたいテキストたちを挙げてみる - 渋谷駅前で働くデータサイエンティストのブログ
追記2 2015年末の時点での最新リストはこちらです。 追記 この記事の5カ月後にもう少し更新した内容の「お薦め本リスト」記事を2つupしてますのでそちらもお読みください。 2013年秋版：データサイエンティストを目指すなら揃えておくべき10冊 - 六本木で働くデータサイエンティストのブログ 2013年秋版：データ分析初心者にお薦めする「基礎を本当にゼロから学ぶ」ためのテキスト5冊 - 六本木で働くデータサイエンティストのブログ 今回は、僕が実際に自然科学の研究者からデータサイエンティストへと転身するに当たって、いつも脇に置いていたテキストや同僚が参考にしていたテキストをまとめて紹介します。 ※以下僕も持っているものには「＊」を打ってあります*1*2*3 統計学 統計学入門 (基礎統計学) 作者: 東京大学教養学部統計学教室出版社/メーカー: 東京大学出版会発売日: 1991/07/09メ
Pythonを始める人への日本語情報集 - None is None is None
@mopemopeさんからバトンを渡されました、2011 Pythonアドベントカレンダー(Python3) 16日目担当のおもけん（@doloopwhile）です。 Q「RubyとPythonどちらが初心者向けでしょうか？」 A「Pythonは日本語情報が少ないので、Rubyがおすすめです」 質問掲示板などで、しばしば見かけるやり取りです。しかし、本当にPythonは日本語情報が少ないのでしょうか？ 確かに、かつてはRubyの情報量の方が圧倒的だったでしょう。しかし、現在ではPythonも日本で広く使われ、Pythonプログラマーのブログも多数あります。少なくとも初心者がPythonを始めるのに情報不足ということはありません。 そこで、明日のPythonプログラマーのため、日本語情報を列挙しておきます。ワリと無難というか、常識的な資料ばかりです。 結局、何を読めばいいの？５つの日本語情報
VOYAGE GROUP エンジニアブログ : 自分の周りに居る凄腕プログラマーが実際に読んでいる本
2011年11月08日10:22 カテゴリ 自分の周りに居る凄腕プログラマーが実際に読んでいる本 こんにちわ、VOYAGE GROUPでエンジニアをしている伊織といいます。 RubyKaigi2010/2011でスタッフをさせて貰ったりしています。 他にも渋谷rbランチなどに顔を出させて貰っています。 弊社の先輩エンジニアは勿論の事、RubyKaigiのスタッフをやらせてもらったりShibuyarblunchやLispコミュニティでうろちょろしているお陰で僕の周りには凄いプログラマーが沢山います。そこで、周りの凄腕プログラマーが実際に読んで「良かった」と言っていた技術書を幾つか挙げてみたいと思います。自分で手を動かしてやった本は僕の感想も添えます。 計算機プログラムの構造と解釈 クチコミを見る 有名な魔術師本。MITで長年教科書として使われてきた本です。今はPythonなので違う筈。今やっ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Chainer: A flexible framework for neural networks
Av-jyo.com
C#／Scala／Python／Ruby／F#でデータ処理はどう違うのか？