Generative Modeling with Sparse Transformers
We’ve developed the Sparse Transformer, a deep neural network which sets new records at predicting what comes next in a sequence—whether text, images, or sound. It uses an algorithmic improvement of the attention mechanism to extract patterns from sequences 30x longer than possible previously. One existing challenge in AI research is modeling long-range, subtle interdependencies in complex data li
Chainerは数多くの企業に支えられている！Preferred Networksこれまでの歴史 | AI専門ニュースメディア AINOW
最終更新日： 2019年7月10日 こんにちは。AINOWのなっぴです。 機械学習ライブラリは何を使っていますか？ ライブラリの中でも代表的なものが“Chainer”ですね。 Chainerはオープンソースの深層学習プラットフォームで、国内でAI業界を牽引するPreferred Networksが中心となって開発しています。 今回は、Preferred Networksのこれまでの歴史を追いました。 どのような企業がどんな形でPFNに関わっているのか。一目でわかるようにPFNの沿革を画像でまとめました。 Preferred Networks これまでの歴史 編集後記 PFNがChainerを作っている会社、ということしか知らなかった人も多いのではないでしょうか？ 大会で優秀な成績を残していたり、DeNAと会社を設立していたりなど、意外なPFNの沿革がわかりました。 IT企業だけでなく、大手
AlphaGo Zeroの論文の要約 : ブログ
AlphaGo Zeroが自己学習のみで過去最強になったというニュースが出たのでその元論文を読み、要約をしました。 まず感想を述べると、過去数千年にわたって蓄積してきた知識をAIが数時間で発見することに対する気持ち良さがありました。人間などクソ食らえと思っておりますので、こう言うニュースはとてもスッキリします。そして人間の発見していない打ち筋の発見にも感動しました。これこそがAIの真髄だと信じています。人間が見えていないものをAIが見つける、僕もいつかそんなことをしてみたいと思いながら生きています。 あともう一つ重要だと思ったのは、とてもネットワーク構造および学習過程が簡素化されたことです。マシンパワーも過去に比べて非常に少なく済み、個人でもすぐに再現実験ができそうなくらいです。AIが強くなることと、構造および学習のsimplerが同時に達成できていることが本質的だと思います。 一応、下記
深層学習(青い本)のまとめと最近のdeeplearning界隈の流れ - プロクラシスト
深層学習 (機械学習プロフェッショナルシリーズ) 作者: 岡谷貴之出版社/メーカー: 講談社発売日: 2015/04/08メディア: 単行本（ソフトカバー）この商品を含むブログ (13件) を見る こんな人におすすめ 人工知能オジサン*1にならないように 線形代数と微分の基礎的な素養のある人 ディープラーニングの基礎を学びたい人 章立て 第1章 はじめに 第2章 順伝播型ネットワーク 第3章 確率的勾配降下法 第4章 誤差逆伝播法 第5章 自己符号化器 第6章 畳込みニューラルネット 第7章 再帰型ニューラルネット 第8章 ボルツマンマシン 書評 1年前に情報系に専門を変え、ディープラーニング関係で初めに読んだ本。ちょうど1年前は爆発的に流行り始めたころだった。 今はもう少しいろいろと日本語の本がそろってきているかもしれないが、この本は基礎から数式を追いながらきちんと学べる本だと思う。 数
深層学習を超えた手法とは何か : 思考のカケラ
最近、深層学習の精度を超えた手法が発表されています。 今回は、昨日（6月17日）ニュースになったDeepmindによるPredictron（自動計画＋強化学習）も含めて、紹介します。
インテルがAIにフォーカスしたイベント「インテルAI Day」でPreferred Networksとの協業を発表
インテルが人工知能への取り組みをイベントにて解説。しかし最も目立っていたのはPreferred Networksとの協業、そして深層学習フレームワークであるChainerであった。 AI時代のインテルの戦略が一同に マイクロプロセッサのリーダーであるインテルは2017年4月6日、都内にて人工知能にフォーカスしたイベント、「インテルAI Day」を開催した。近年の人工知能はこれまでのルールベースから、機械学習、深層学習などの様々なアルゴリズムと膨大なデータによって、実用化にむけて大きく進化したことはもう周知の事実だろう。しかしそのシステムに使われているのは、高速な行列計算を多数のコアで並列処理するGPUだ。GPUのリーダーであるNVIDIAが「（NVIDIAは）ビジュアルコンピューティングからAIコンピューティングに移行する」と宣言するほど、GPUは人工知能、それも深層学習に向いたプラットフ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
人工知能の未来はカナダにある？ ディープラーニングの生みの親、「AIインキュベイター」を開設
マガジン｜TECH PLAYのイベント・技術情報 - TECH PLAY［テックプレイ］