Googleが出した囲碁ソフト「AlphaGo」の論文を翻訳して解説してみる。 - 7rpn’s blog: うわああああな日常
就活も無事終わったので，一番やりたかったAlphaGoの論文を翻訳しました。 ご存知の通り，長らく世界最強だった囲碁棋士イ・セドル九段を破ったGoogleの囲碁プログラムです。 論文の内容に触れつつ何となく解説入れていきたいと思います。なるべく囲碁やDeepLearningを知らない初心者の人とかでも仕組みを理解できるように分かりやすく書いていければいいなと思います。 原題は"Mastering the game of Go with deep neural networks and tree search"。 とりあえず最初の要約の訳から。 謎の単語とかは後から説明入れるので，さらっと流し読みしていただければ。 囲碁はこれまでAIにとってとても難しいゲームだとみなされてきた。それは探索範囲がとても広いことと，盤面の評価が難しいため。 この論文では，コンピュータを用いた囲碁の新しいアプロー
ディープラーニングの判断根拠を理解する手法 - Qiita
ディープラーニングは特定分野で非常に高い精度が出せることもあり、その応用範囲はどんどん広がっています。 しかし、そんなディープラーニングにも弱点はあります。その中でも大きい問題点が、「何を根拠に判断しているかよくわからない」ということです。 ディープラーニングは、学習の過程でデータ内の特徴それ自体を学習するのが得意という特性があります。これにより「人が特徴を抽出する必要がない」と言われたりもしますが、逆に言えばどんな特徴を抽出するかはネットワーク任せということです。抽出された特徴はその名の通りディープなネットワークの中の重みに潜在しており、そこから学習された「何か」を人間が理解可能な形で取り出すというのは至難の業です。 例題：このネットワークが何を根拠に猫を猫として判断しているか、ネットワークの重みを可視化した上図から答えよ(制限時間:3分) image from CS231n Visua
世界レベルの｢AIの知財権｣議論が始まった。その先進国は日本 —— 統合国際人工知能学会 in メルボルン
このワークショップの目的は、AIが実用製品として普及していくときに議論しておくべき内容を明らかにしておくことです。たとえばAIが実用品に組み込まれる時、AIそのものの知的財産権については今のところどの国にも法律上の規定がありません。また、AIによって生成された生成物の著作権についても同様です。たとえば、AIが小説やマンガを書いたりした場合、その権利が誰に帰属するかは明らかにされていません。 日本は｢AIの知的財産権｣議論の先進国、法律も先駆的 この種の議論に関しては我が国は世界でも一番議論が進んでいる場所のひとつです。昨年も内閣の知的財産戦略本部ではAI生成物やAI創作物をどう扱うかといった議論（｢新たな情報財検討委員会｣として実施。報告書はこちら）や、学習済みAIになんらかの知的財産権を認めるかという議論が活発に行われていました。 改めて海外でこの議論を始めてみて思うのは、日本は人工知能
基本的なRecurrent Neural Networkモデルを実装してみた - Qiita
Recurrent Neural Network（再帰型ニューラルネット）に関心はあるが，なかなかコード作成に手がつかない，このようなケースが多くないだろうか？理由はいくつかあるが，私の場合は次のようなものが思い当たる． 単純にネットワークの構成が複雑．MLP(Multi-layer Perceptron)から入門してCNN(Convolutional-NN)に進むまでは，特殊なLayerがあるにせよ，信号の流れは順方向のみであった．（誤差の計算は除く．） MLPやCNNにおいては分かりやすい例題，（Deep Learningの’Hello World'と称される）"MNIST" があったが，そのような標準的な(スタンダードな）例題がRNNにはない． 因みにTheanoのDeep LearningやTensorFlowのTutorialは，言語モデルを扱ったものである．言語モデルに精通され
A Beginner’s Guide to AI/ML 🤖👶
This series is available as a full-length e-book! Download here. Free for download, contributions appreciated (paypal.me/ml4h)RoadmapPart 1: Why Machine Learning Matters. The big picture of artificial intelligence and machine learning — past, present, and future. Part 2.1: Supervised Learning. Learning with an answer key. Introducing linear regression, loss functions, overfitting, and gradient des
Raspberry Pi上でTensorFlowで簡単にディープラーニングを試せるツール「tensorflow-pi」でロボホンの幻の顔認識機能に挑戦してみた - karaage. [からあげ]
Raspberry PiとTensorFlowを使ったディープラーニング開発環境 以下の記事でRaspberry PiとTensorFlowを使ったディープラーニングの開発環境の構築方法を紹介しました。 記事の最後の方に、自前データの学習から、学習したニューラルネットワークで判別まで実施できる自前のパッケージ「tensorflow-pi」を紹介させていただきました。 ただ、READMEだけ見ても、意味不明な英語で良くわからないと思いますので、今回は実例を交えながらこのソフトの使い方を紹介しようと思います。 例題ですが、以前ネットで話題になった「ロボホン」の幻の顔認識機能があります。詳しくは以下参照下さい。 開発決定！というニュースは話題になったものの、その後続報がとんと聞かれません。そもそも技術的に不可能なんじゃという噂も聞こえてきたりしました。 奇しくもロボホンとRaspberry Pi
![Raspberry Pi上でTensorFlowで簡単にディープラーニングを試せるツール「tensorflow-pi」でロボホンの幻の顔認識機能に挑戦してみた - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/10adf88ff1495f3fbce26be21cda9215a10d1a47/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkaraage%2F20170726%2F20170726015040.jpg)
OSSベースの機械学習が強い理由
英語版はこちら。 TensorFlowの登場以降、OSSベースの機械学習の盛り上がりは加速しています。Kerasの作者のFrançois Cholletさんの言葉が、この状況を非常に端的に表しています。これだけでも十分だとは思いますが、この記事では、なぜオープンソースの機械学習が強いのか、最近のどういった流れがあるのかを整理したいと思います。 tl;dr機械学習やDeep Learningのフレームワークが充実してきた論文が査読前に公開され、他社も簡単にアルゴリズムの検証ができるようになった多くのプレーヤーの参戦により、アカデミアでの機械学習の研究がレッドオーシャン化した他社にないアルゴリズムで一発勝負、実装は秘密、というアプローチが厳しい牧歌的な時代5年前10年前の世界では、先端の機械学習に取り組んでいるのは大学などの研究室、大企業の研究所や一部の先進的な企業がほとんどでした。特に、ラベ
深層学習による自然言語処理 - RNN, LSTM, ニューラル機械翻訳の理論
本稿ではニューラルネットワーク，誤差逆伝播法，言語モデル，RNN，LSTM，ニューラル機械翻訳の一連の手法について数理的に解説する． 前編の目次 ニューラルネットワーク 順伝播 (Forwardpropagation) 逆伝播 (Backpropagation) リカレントニューラルネットワーク (RNN) Recurrent Neural Network Language Model (RNNLM) Backpropagation Through Time (BPTT) Long Short-Term Memory (LSTM) Gated Recurrent Unit (GRU) RNN のドロップアウトとバッチ正規化 ニューラル機械翻訳 (NMT) Sequence to Sequence (seq2seq) 注意 (Attention) 双方向エンコーダー・多層LSTM 評価手法
深層学習で歩行者の動きを予測、パナソニックが新技術開発
パナソニックはディープラーニング（深層学習）を活用し、屋内でカメラに映った歩行者の特徴を把握し、進路を予測する技術を開発した。2017年7月19日、本誌取材に回答した。駅や空港などの安全管理や防犯、小売店で客の動線を把握するマーケティングなどへの活用が見込める。 開発過程では年齢、性別、つえや車いすの有無といった様々な属性を持つ歩行者の画像データを用意し、深層学習技術によって歩行者の属性と画像の関係性を学習させた。さらに歩行者の進路を予測するプログラムを組み合わせることで、特定の属性を持った歩行者の進路を予測可能にした。実験では、カメラに映った5～6人の属性と進路を全て予測できたという。 同技術は2017年6月7日から9日までパシフィコ横浜で開催していた画像センシングシンポジウムで紹介していた。同社によると「さらに改良を重ねて精度を高めた」という。
ゼロからDeepまで学ぶ強化学習 - Qiita
ロボットから自動運転車、はては囲碁・将棋といったゲームまで、昨今多くの「AI」が世間をにぎわせています。 その中のキーワードとして、「強化学習」というものがあります。そうした意味では、数ある機械学習の手法の中で最も注目されている(そして誇張されている・・・)手法ともいえるかもしれません。 今回はその強化学習という手法について、基礎から最近目覚ましい精度を出しているDeep Q-learning(いわゆるドキュン、DQNです)まで、その発展の流れと仕組みについて解説をしていきたいと思います。 本記事の内容をベースに、ハンズオンイベントを開催しました(PyConJPのTalkの増補改訂版) Pythonではじめる強化学習 OpenAI Gym 体験ハンズオン 講義資料の方が図解が豊富なので、数式とかちょっと、という場合はこちらがおすすめです。 Tech-Circle #18 Pythonではじ
機械学習／Deep Learningが気になる人も要注目、「アルゴリズム」の基本が学べる無料の電子書籍150ページ
アルゴリズムとは、問題を解く、課題を解決するための手順です。それを学ぶことで人は何を得るのでしょうか。 2008年8月から始まり2009年5月に終わった人気連載「コーディングに役立つ！アルゴリズムの基本」の第1回「いまさらアルゴリズムを学ぶ意味」で筆者は、下記のように述べています。 「IT技術者である読者の皆さんなら、普段から何げなく「アルゴリズム」という言葉はよく使っていることでしょう。しかしあらためて「『アルゴリズム』とは何か」と問われて、すぐに明快に答えられるでしょうか。 また、IT技術者であってもアルゴリズムをきちんと勉強した人は意外と多くないのではないでしょうか。大学で学んだ、入社後の新人研修で学んだという人もいるかもしれません。それでもしばらく開発の現場に出ているうちに忘れてしまった、という人もいることでしょう。 この連載ではアルゴリズムを学ぶ、または学び直すことで、プログラミ
「Deep Learningオールスターズ2017」に登壇いたしました！~Deepな世界に飛び込む前に命綱を。~ | TIS株式会社
「Deep Learningオールスターズ2017」に登壇いたしました！~Deepな世界に飛び込む前に命綱を。~ 先日6/25、TECH PLAY SHIBUYAにて開催された「Deep Learningオールスターズ2017」に登壇させていただきました。つい先週に「dots.」から「TECH PLAY」にサービス名称変更されたとのことでロゴがピカピカで眩しいです！ 私は「Deep learningの世界に飛び込む前の命綱」というタイトルで発表いたしました。「流行ってるからとりあえず自前サービスにDeep Learningに取り入れてみよう！」と取組み始めると思わぬ事態に直面するかも… Deep Learningの性能検証を行なう中で感じた、既存の機械学習手法を予め実装しておくことの有用性を紹介しました。以下が発表資料となります。 今回参加した「Deep Learningオールスターズ2
データサイエンティストもしくは機械学習エンジニアになるためのスキル要件とは（2017年夏版） - 渋谷駅前で働くデータサイエンティストのブログ
この記事は2年前の以下の記事のアップデートです。 前回はとりあえずデータサイエンティストというかデータ分析職一般としてのスキル要件として、「みどりぼん程度の統計学の知識」「はじパタ程度の機械学習の知識」「RかPythonでコードが組める」「SQLが書ける」という4点を挙げたのでした。 で、2年経ったらいよいよ統計分析メインのデータサイエンティスト（本物：及びその他の統計分析職）vs. 機械学習システム実装メインの機械学習エンジニアというキャリアの分岐が如実になってきた上に、各方面で技術革新・普及が進んで来たので、上記の過去記事のスキル要件のままでは対応できない状況になってきたように見受けられます。 そこで、今回の記事では「データサイエンティスト」*1「機械学習エンジニア」のそれぞれについて、現段階で僕が個人的に考える「最低限のスキル要件」をさっくり書いてみようかと思います。最初にそれらを書
SXSW 2017が示したAI時代の共通課題とは？
国内の”知の最前線”から、変革の先の起こり得る未来を伝えるアスキーエキスパート。KDDI総合研究所の帆足啓一郎氏による人工知能についての最新動向をお届けします。 世界中のビジョナリーやクリエイターが集まる一大イベント「SXSW Interactive」に、昨年に引き続き参加した。昨年のSXSWは、その直前に発表されたAlphaGoの登場で人工知能関連の議論が大きく盛り上がったが、今年はそれに比べるとそこまで大きな話題はなかった。それゆえ、引き続き盛り上がりを見せる人工知能について、各セッションでどのような議論が行なわれるのか、筆者としても注目しながら参加した。本記事では、昨年・今年と連続して人工知能関連セッションの聴講を中心に参加した観点からSXSWでの議論を紹介し、これらの議論が示唆する人工知能の時代における共通課題について考察する。 AlphaGoの鮮烈な登場から1年が経過 昨年のSX
再帰型ニューラルネットワーク: RNN入門 - Qiita
再帰型ニューラルネットワーク(RNN)は自然言語処理の分野で高い成果をあげ、現在最も注目されているアルゴリズムの一つです。しかしながら、その人気が先走りして実際にRNNがどのように動くのか、構築するのかを解説する書籍は限られているように思います。この投稿はその部分にフォーカスを当てて友人のDenny（WildMLブログの著者）と一緒に書きました。 さてRNNベースの言語モデルを解説したいと思います。言語モデルの用途は2つあります。1つ目は文章が実際にどのくらいの確率で現れるのかのスコアリングをすること。このスコアは文法的に、セマンティクス的に正しいかどうかの判断基準となります。このようなモデルは例えば機械翻訳などに使われています。次に2つ目ですが、言語モデルは新たなテキストを生成することができる点 (ちなみに個人的にこちらの方がよりCoolな用途だと思っています)。また、英語ですがAndr
AI生成物に著作権はあるか?田中圭一AI出現の可能性とAI専用デジタル国会図書館
AI生成物に著作権はあるか?田中圭一AI出現の可能性とAI専用デジタル国会図書館 Copycat and copyrights 2016.12.18 Updated by Ryo Shimizu on December 18, 2016, 11:31 am JST 先日、第二回となる「新たな情報財検討委員会」が霞が関の第四合同庁舎で開催されました。 新たな情報財検討委員会は、内閣総理大臣を本部長とする、政府の知的財産戦略本部のもとに設置された検討委員会で、我が国における知的財産をどのように保護していくか、そしてどのようにすれば発展していくかという視点から具体的な政策方針を議論する委員会です。 この委員会で決められた方針が、関係各省庁に落とされ、実際の政府の方針として活用されることになるので、こういう場でどういう議論が行われたかということは非常に重要です。 特に最近は進歩の著しい人工知能技術
2016年版 人工知能・データ解析・機械学習・深層学習で読んでみてよかった本 - akimachoのはてなブログ
はじめに 師走の忙しくなる前に、今年読んでみた本をまとめてます。思いついたらコメントを追加していきます。 注意 : 本のリンクにはAmazonアフィリエイトを使っています。これははてなの機能で、本の表紙が表示されて私が思い出すのに便利だからです。 啓蒙書 AIの衝撃 去年読んで機械学習を勉強してみようと思った本(2015年出版)です。確か「深層学習だかのシステムを構築できる技術者は世界に20〜30人くらいしかいない」という文言があったのですが、この一年でだんだんとAI技術もコモディティ化してきたのかなーと感じています。 AIの衝撃 人工知能は人類の敵か (講談社現代新書) 作者: 小林雅一出版社/メーカー: 講談社発売日: 2015/03/19メディア: 新書この商品を含むブログ (15件) を見る 人工知能は人間を超えるか 人工知能の研究者によるやさしい解説書です。人工知能が社会に与える
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
I picked the wrong week to quit sniffing Gluon: Amazon, Microsoft hope easy AI dev tool sticks
“ディープラーニング” が、すべてを変えた。7月20日『AI白書 2017』待望の刊行!!
長文日記
