[WIP] 1-file Chainerを作る - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 概要 この記事では、Neural NetworkフレームワークであるChainerの最も特徴的なコンセプトである**"Define-by-Run"**を理解するために、手書き数字の分類を行うためのネットワークの記述・学習に必要な最低限の機能だけを持ったライブラリ"1f-chainer"をNumPyのみを使って実装してみます。数式が登場するような説明は全てAppendixに追いやり、本文中ではできるだけコードと文章だけで説明を行うように気をつけて書きました。 本記事で用いた全てのコードは以下に置いてあります：1f-chainer。書き始め
![[WIP] 1-file Chainerを作る - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/7a9f4414d5b28989fa9bb8aa91c200a4dd0277da/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fqiita-user-contents.imgix.net%252Fhttps%25253A%25252F%25252Fcdn.qiita.com%25252Fassets%25252Fpublic%25252Fadvent-calendar-ogp-background-7940cd1c8db80a7ec40711d90f43539e.jpg%253Fixlib%253Drb-4.0.0%2526w%253D1200%2526blend64%253DaHR0cHM6Ly9xaWl0YS11c2VyLXByb2ZpbGUtaW1hZ2VzLmltZ2l4Lm5ldC9odHRwcyUzQSUyRiUyRnFpaXRhLWltYWdlLXN0b3JlLnMzLmFtYXpvbmF3cy5jb20lMkYwJTJGMTc5MzQlMkZwcm9maWxlLWltYWdlcyUyRjE0NzM2ODIyOTc_aXhsaWI9cmItNC4wLjAmYXI9MSUzQTEmZml0PWNyb3AmbWFzaz1lbGxpcHNlJmJnPUZGRkZGRiZmbT1wbmczMiZzPTM0YzQ3ZmQwNDI5ZWY2MjBlZDQ0ZGIxOGZlMTJmNTUy%2526blend-x%253D120%2526blend-y%253D467%2526blend-w%253D82%2526blend-h%253D82%2526blend-mode%253Dnormal%2526s%253D09d5715a19106e447f357af1d1cf2075%3Fixlib%3Drb-4.0.0%26w%3D1200%26fm%3Djpg%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk2MCZoPTMyNCZ0eHQ9JTVCV0lQJTVEJTIwMS1maWxlJTIwQ2hhaW5lciVFMyU4MiU5MiVFNCVCRCU5QyVFMyU4MiU4QiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZ0eHQtY29sb3I9JTIzM0EzQzNDJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1wYWQ9MCZzPWZmZDU4NjA0MzQ3ZTIxZWU3MmM0MGM3NzJkZTRmNzM3%26mark-x%3D120%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTgzOCZoPTU4JnR4dD0lNDBtaXRtdWwmdHh0LWNvbG9yPSUyMzNBM0MzQyZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtcGFkPTAmcz01MzBmMjZmMWI5MTlmNDQ4NTM1NGVkMjNmNjEzZWRiNA%26blend-x%3D242%26blend-y%3D480%26blend-w%3D838%26blend-h%3D46%26blend-fit%3Dcrop%26blend-crop%3Dleft%252Cbottom%26blend-mode%3Dnormal%26s%3D659dd7b43ae19b6a9b32f3ea4006090e)
Julia のススメ 〜 Deep Learning のための Julia 〜 - Qiita
TL;DR Julia は速いよ。 Julia は行列演算簡単だよ。 Julia は Deep Learning 向きだよ。 Julia はそもそも書きやすいよはかどるよ！ Julia 良いよ Julia！ 初めに 【注意】この記事は1年以上前の記事です12。 この記事は、Julia Advent Calendar 2016 の3日目の記事です。 と同時に、機械学習 名古屋 第8回勉強会 の発表資料です。 またこの記事は、ゼロから作る Deep Learning（O'reilly, 2016/09）を参考に構築しています。 ↑ をJuliaに移植中 → DLScratch.jl 自己紹介 自己紹介 名前：後藤 俊介 所属：有限会社 来栖川電算 言語：Python, Julia, Ruby, Scala（勉強中）, … twitter: @antimon2 Facebook: antimon
【論文シリーズ】DNCー動的な記憶装置を搭載した人工知能 - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 原文のリンク Hybrid computing using a neural network with dynamic external memory (2016) 1. 要約と背景 DeepMind社（現Google子会社）は2016年10月27日に、全く新しいタイプの人工知能のフレームワークをNature論文に発表しました。その名も、DNC (Differential Neural Computer)といいます。 この人工知能の斬新な点は何と言っても外部記憶装置 (external memory)の存在です。これはヒトの海馬のような
C++ヘッダだけでDeep Learning、tiny-dnnの紹介 - Qiita
DeepLearning Advent Calendar,6日目の記事です。 Deep Learningフレームワークも世の中に随分と充実してきた昨今、いかがお過ごしでしょうか。今日はC++プログラマが簡単に導入できるDeep Learningフレームワーク、tiny-dnnを紹介します。 まとめ C++でDeep Learningやるなら、tiny-dnnが便利 Header-only＆外部依存なしで簡単導入 Caffeからのインポートやシリアライズなどの各種機能にも対応 いろんなデバイス上で動かしたい人、既成のModel＋αを素早くアプリケーション化したい人、C++でDeep Learningを理解したい人に最適 背景 Deep Learningフレームワークといえば、 Chainer TensorFlow Caffe あたりが有名ですね。他にも老舗のTheanoにTorch、Tens
MXNet 入門 - Qiita
DeepLearning Advent Calendar 2016 4 日目です。 3 日目は @tereka114 さんの「グレーの画像に色をつけるネットワークについて発表しました。」でした。 最近 AWS が公式にサポートを表明した深層学習フレームワーク MXNet に、彼らの記事や各種チュートリアルを通して入門してみようと思います。 MXNet とは 概要 MXNet はワシントン大学とカーネギーメロン大学によって、CNN と LSTM をサポートするために開発されはじめました。効率的で柔軟な深層学習フレームワークとなるよう設計されています。 特徴 AWS が MXNet を支援すると決めた理由に、以下の 3 つをあげています。 スケーラビリティ 豊富な対応言語 軽量かつ高い可搬性 その他にも MXNet には以下のような特徴があります。 命令的 / 宣言的プログラムの混合 豊富な深
Numpyのみを用いた、畳み込みニューラルネットワークの実装 - Qiita
はじめに 畳み込みニューラルネットワークの理解のため、深層学習用のライブラリに依存せず、Numpyのみを用いPythonでアルゴリズムを実装しました。 今後はGPUに対応させたものに改良したいです。また、逆誤差が適切に伝播しているかは未検証ですので、まだまだ開発途中のものを掲載しています。 GitHub https://github.com/NaotoMasuzawa/Deep_Learning/tree/master/Python_CNN 参照したコードと技術書 コードを実装するにあたって、Yusuke SugomoriさんのGitHubと技術書を参考にしました。大変感謝しています。 GitHub https://github.com/yusugomori 技術書 https://www.amazon.co.jp/Java-Learning-Essentials-Yusuke-Sugom
Deep Learning 入門（１） - Chainerを初学者向けにわかりやすく解説 - - Qiita
はじめに 最近流行りのDeep Learningに関する入門記事です。 Deep Learningは既にオープンソースのライブラリが豊富に出まわっており、今回はその中でも国産で定評があり、とある記事でGPU計算が現状で割と速いと書かれていたchainerを使用します。 ただ、Chainerの入門記事は多くあるのですが、そのほとんどが手書き文字を認識するmnistのサンプルを実行して終わっています。 たしかに、mnistのサンプルを眺めれば、Chainerの使い方はわかってくるのですが、なんとなくわかるのと自分で組めるのは違うなということで、今回はchainerを使ったDeep Learningが自分で組めるというところまでを目標にやっていきます。 開発環境 ・OS: Mac OS X EI Capitan (10.11.5) ・Python 2.7.12: Anaconda 4.1.1 (
Deep Learningの気持ちを理解する - Classification編 - Qiita
画像分野では今やDeep Learningによる解析が主流となりつつありますが、結果の解釈が難しいのが難点です。医療分野などでは特に、モデルの出力に対する説明力が強く求められるのではないでしょうか。今回は、そういった時に活用できる可視化手法を紹介します。 紹介する手法はOBJECT DETECTORS EMERGE IN DEEP SCENE CNNs, Zhou+, '14で提案されている方法です。 論文中でやっていること classificationモデルの学習（通常の学習） 1と同じ前処理を適用した画像を入力として、1で学習したモデルでclass毎の確率値を計算 2で使用した画像の一部の領域をマスクした画像を入力として、class毎の確率値を計算 3を5000個程度の領域で行い、値を取得 4の個々の出力値と2の出力値の差分をとる 任意の閾値を設定し、5の値が閾値を超えていない領域は0
OS X 10.10（Yosemite）にCaffeをインストールする（libstdc++問題解決） - Qiita
Caffeって？ Caffeは、アメリカのカリフォルニア大学バークレー校が開発している、ディープラーニングのフレームワークです。 マルチプラットフォーム（LinuxやMax OS X）で動く C++やPythonで実装できる 数ある機械学習のフレームワークの中で開発が活発で、処理速度が速い いろいろな研究成果が報告されている などなど Macにインストールする Ubuntuでのインストールはすごく簡単でしたが、Mac、特に10.9と10.10(MavericsとYosemite)にインストールするのが厄介です。その理由がlibstdc++問題（勝手に自分が命名）です。 libstdc++は、C++の標準ライブラリです。 Caffeに必要な、ソフトウェアをインストールするのに必要なオプションです。 しかし、libstdc++は、OS X 10.9と10.10では対応しておりません。libc+
Deep Learning bookを読んで学んだこと - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? Deep Learning bookとは？ Deep Learning bookは2016年末にMIT Pressより発売予定の書籍（英語）で、深層学習御三家の一人Bengio先生や画像生成のGANで有名なGoodfellow先生らによって書かれており、現時点で深層学習の決定版と言える教科書です。太っ腹なことに本の内容はウェブサイトで公開されており無料で読むことができます。 Deep Learning; Ian Goodfellow, Yoshua Bengio and Aaron Courville, MIT Press, 2016.
NVIDIA 社提供の AMI で DeepLearning - Qiita
更新履歴 [2017/03/08] AWS 公式 Deep Learning AMI v2 リリース！ CUDA 8.0 になり、TensorFlow v1.0.0, MXNet v0.9.3 など Deep Learning に便利な AMI NVIDIA 提供 NVIDIA CUDA Toolkit 7.5 on Amazon Linux NVIDIA DIGITS 4 on Ubuntu 14.04 2016/09 末に公開された模様。 自分で CUDA をインストールしたことがある方ならわかると思いますが、NVIDIA の GPU ドライバから始まり、CUDA をインストールするのはなかなかの手間でした。（まあ、一度 AMI を作ればってのはありますが） この AMI を使えば、ものすごく簡単にサーバが使い始められます！ AWS 提供 Deep Learning AMI Amazo
音声処理で参考になったサイトまとめ - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? これなあに？ 先週は強化学習の勉強会をしました。 今週は音声処理の勉強会をやるぞということになって僕はまた焦って資料をかき集めました。 この記事は音声処理の勉強会を行うにあたって、参考になったサイト、もしくは情報をまとめたものです。 勉強会で共有するために作ったけどせっかくだしあげておくことにしました。 読んだ感想や要点なんかも簡単にまとめれたらと思います。 特に参考になった記事、重要だと思った記事には★マークをつけておきます。 僕自身が音声処理初心者ということ、短い時間でまとめたことから誤りや不適切な点があるかもしれません。 その場合
TensorFlowでニューラル会話モデル - Qiita
以前の記事ではTensorFlowを使って英語から日本語に翻訳するニューラル翻訳モデルを訓練しましたが、今回は最近のチャットボットブームに乗っかって（？）、ニューラル会話モデルを訓練してみました。 環境 環境は以前の記事と同じですが、今回はAWSのスポットインスタンスを使うことでコスト削減を図りました。 TensorFlow 0.9 AWS g2.2xlarge spot instance Ubuntu Server 14.04 Python 3.5 データ ニューラル会話モデルを訓練するためには、発言とその発言に対する返信のテキストデータが必要になります。ここではTwitterのリプライを収集スクリプトを書き、1.3Mほどのツイートと返信先のペアを収集しました。ツイートからユーザ名、ハッシュタグ、URLは削除され、例えば次のようなペアが得られます。 返信先ツイート ツイート
【まさかの】ChainerでLSTMを使ってナンバーズの予測をする【当選】 - Qiita
前置き(読み飛ばしていいです) 古巣(某ISP)が定期的にハッカソンを開催していて、ありがたいことに毎回お声掛け頂いています。 特にテーマは無い、もくもく会的なハッカソンです。 毎回美味しいお弁当が出ますが、今回は量は満足でしたが、質がいまいちでした やりたいなーと思っててやる時間がなかったことを毎回やってます。 今回はLSTMを使ってナンバーズの予測をやりました。 ナンバーズ 数字選択式宝くじ 平日は毎日抽選が行われる 数字を3つ選ぶナンバーズ３と、4つ選ぶナンバーズ４がある 数字と並びの両方を当てるストレート、並びは関係なく数字だけを当てるボックス、ストレートとボックスに半々にかけるイメージのセットがある。 当選金額は ストレート >> セットのストレート > ボックス > セットのボックス みたいなイメージ ナンバーズに関するオカルト「ひっぱり現象」 同じ数字が何回かにわたって連続し
ChainerでオセロのAIをつくってみる ～前編～ - Qiita
はじめに 以前、「Pylearn2で三目並べのAIをつくってみる」という記事を書きました。 このときは問題を簡単にして三目並べにしましたが、今回はオセロのAIをニューラルネットワークで作成するという当初の目標にチャレンジします。 トライ＆エラーが多い記事になるかもしれませんがご容赦ください。 今回はDeep Learning用ライブラリとしてChainerを使ってみます。 記事は2部構成です。 前編(この記事) 教師データの変換 MLPの設計 モデルのトレーニングと保存 後編 オセロゲームへの実装 プレイアブルかどうかの確認（ルールを逸脱せずにゲームできるか） ここでプレイアブルでないと分かったら、MLPモデルの作成に戻る 後編でAIの実装を行いますが、上手くいかなければ、ニューラルネットワークの構成から考え直すことになります... →動作確認と結論が出ました 教師データの準備 こちらから
【 論文を読む 】Deep neural network に 外部知識DB を 参照する補正項 を 組み込むと、少量学習データ でも NLP意味計算精度 アップした件 - Qiita
【 論文を読む 】Deep neural network に 外部知識DB を 参照する補正項 を 組み込むと、少量学習データ でも NLP意味計算精度 アップした件MachineLearningDeepLearningrdfNLP自然言語処理 【 関連記事 】 HirofumiYashima Qiita記事（2016/08/17）「【 概念・語彙 意味関係 知識ベース 参照型 word2vec（ GloVe ）】Joint representation 論文 の C＋＋言語 公式実装コード を サンプルデータ で 動かして挙動確認してみた」 ニューラル言語モデル × オントロジー セマンティック知識DB参照モデル 融合のアプローチ が切り開く可能性 （ 文書コーパスから、各トークンの意味表現ベクトルを組成する neural network モデル のアルゴリズムに、外部 知識DBに記述さ
Chainerの新機能がすごい勢いで俺のソースコードを抽象化してくる - Qiita
2016年7月12日に，Chainer v1.11.0がリリースされた． Chainer Meetup 03や，Amazon Picking Challenge 2016の準備もあったろうに…なんて速度だ！ （第2位，おめでとうございます https://www.preferred-networks.jp/ja/news/amazon-picking-challenge-2016_result ） この記事では，Chainerの新機能を美味しさと共に紹介していきたいと思う． トレーニング部分のコードが抽象化できるようになった Chainer Meetup 03では，「beam2dさんがゲロ吐きながらTrainコードを抽象化してくれている」という話だった． あれからおよそ2週間，Chainerのコードは変化を遂げた．変化を遂げることを許された． 先日とあるライブコーディングイベントにて私が書
画風のニューラルネットワークのアルゴリズム（人工知能が美術や音楽を作るMagenta 翻訳②） - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに この記事は、GoogleのMagentaプロジェクトのドキュメント "A Neural Algorithm of Artistic Style"（Cinjon Resnick)の翻訳です。 このドキュメントは、Gatys氏らによる同名の論文のレビュー記事であり、 Apache License, Version 2.0で配布されている成果物です。 Google Brainはディープラーニングにより、美術や音楽を生成するプロジェクトMagentaを立ち上げました。Magentaの目的の1つは、プロジェクトの研究を紹介することでもあ
nVidiaもビビってる 世界最速スパコン神威太湖之光 - Qiita
DeepLearningや深層学習など、CUDAやGPGPUなどの需要が 急激に高まっている。 一方でnVidiaやATI(AMD)は元々3Dグラフィックスをベースに CUDAやGPGPUを発展させてきた。 決して、DeepLearningなどの汎用演算を想定してCUDAやGPGPUが 設計されきたわけではない。 ラスタライザやShaderコアなどで実装されている浮動小数演算器を、 より汎用的な演算に解放しよう努力はしているが ラスタライズ処理で必須とされる回路規模のインパクトは今日現時点でも軽くはない。 では、スパコン業界ではどうだろうか？ 時間レンタルでスパコンにTensorFlowを流したらどうだろうか？ 昨今のスパコンは、米国製、中国製 問わず Intel®Xeon®やnVidiaなどのハイエンドCPU/GPUを コア・パーツとして力技で組み上げられていた。 しかし、その力技にも限
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://qiita.com/shirono_kei/items/4c6cf757e8ad1b85394d