機械学習論文読みメモ_10 - Qiita
Metadata Dependent Mondrian Processes, ICML2015 関係データ分析問題を扱う。 この問題は基本的には、データをadjacency matrix（誰と誰がSNSで友達なったか等）で表現し、行と列を部分的に集めブロック構造を抽出する。 ここでは、確率的なパーテション生成モデルを考える。 従来手法では、ブロック数をchinese restaurant processで可変にしたinfinite relational modelとその拡張であるMondrian Processがある。 特にMondrian Processは柔軟性が高いモデルだが、その分スパースなデータなどに対しては過剰適合が起きやすく、収束しにくい問題がある。 本論では、メタ情報、例えば同じ大学に属しているもの同士は友達になりやすい、を活用する事でこれを克服する。 このメタ情報が分散する
Neural Machine Translation in Linear Time
We present a novel neural network for processing sequences. The ByteNet is a one-dimensional convolutional neural network that is composed of two parts, one to encode the source sequence and the other to decode the target sequence. The two network parts are connected by stacking the decoder on top of the encoder and preserving the temporal resolution of the sequences. To address the differing leng
書評：『ゼロから作る Deep Learning』 | Webシステム開発／教育ソリューションのタイムインターメディア
ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装 斎藤 康毅 著 A5版、320ページ 2016/9/24 発売 3400円(本体) オライリー・ジャパン ISBN-13: 978-487311-758-4 GitHub:oreilly-japan/deep-learning-from-scratch 2016年になって、AIブーム、Deep Learning ブームに乗じて多数の解説書が出た。 もちろん、その多くは入門書だったり、あれこれ出来るようになったことを紹介するだけの本が大多数で、読んでもDeep Learning についてDeep に理解できるようにはならない本が殆んどであった。 しかし、この本は違うのだ。ゼロから作るという枕言葉通り、Deep Learningのプログラムを、既成のライブラリなどを使うのではなくゼロから、スクラッチで書
The Microsoft Cognitive Toolkit - Cognitive Toolkit - CNTK
NOTE: CNTK is no longer actively developed. See the release notes of the final major release for details. The Microsoft Cognitive Toolkit (CNTK) is an open-source toolkit for commercial-grade distributed deep learning. It describes neural networks as a series of computational steps via a directed graph. CNTK allows the user to easily realize and combine popular model types such as feed-forward DNN
How AI Is Shaking Up the Chip Market
GPUs. FPGAs. TPUs. Good luck keeping it all straight. In less than 12 hours, three different people offered to pay me if I'd spend an hour talking to a stranger on the phone. All three said they'd enjoyed reading an article I'd written about Google building a new computer chip for artificial intelligence, and all three urged me to discuss the story with one of their clients. Each described this cl
Automatic Image Colorization・白黒画像の自動色付け
Neural Network-based Automatic Image Colorization ディープネットワークを用いた白黒写真の自動色付け Satoshi Iizuka飯塚里志*, Edgar Simo-Serraシモセラ エドガー*, Hiroshi Ishikawa石川博 (*equal contribution筆頭著者に相当) プロジェクトサイト We provide a service that uses AI to automatically colorize black and white images based on "Let there be Color!: Joint End-to-end Learning of Global and Local Image Priors for Automatic Image Colorization with Simult
Automatic Image Colorization・白黒画像の自動色付け
Neural Network-based Automatic Image Colorization ディープネットワークを用いた白黒写真の自動色付け Satoshi Iizuka飯塚里志*, Edgar Simo-Serraシモセラ エドガー*, Hiroshi Ishikawa石川博 (*equal contribution筆頭著者に相当) プロジェクトサイト We provide a service that uses AI to automatically colorize black and white images based on "Let there be Color!: Joint End-to-end Learning of Global and Local Image Priors for Automatic Image Colorization with Simult
Learning Scalable Deep Kernels with Recurrent Structure
Many applications in speech, robotics, finance, and biology deal with sequential data, where ordering matters and recurrent structures are common. However, this structure cannot be easily captured by standard kernel functions. To model such structure, we propose expressive closed-form kernel functions for Gaussian processes. The resulting model, GP-LSTM, fully encapsulates the inductive biases of
2016年夏季インターンシップ開催報告 - Preferred Networks Research & Development
PFI・PFNでは今年8, 9月に夏季インターンとして14名の方に来て頂き、機械学習・深層学習に関する様々なプロジェクトに取り組みました。このブログエントリでは、PFI・PFNのインターンシッププログラムの概要と、今年のインターンシップ、特に最終成果発表会についてを紹介します（写真は中間発表のポスター発表の様子です）。 PFI・PFNのインターンプログラムについて PFI, PFNでは、2010年からインターンシップを実施しています（PFNは2015年から）。夏季のインターンシップは毎年行っており、また毎年ではありませんが、春季にもインターンを実施しています。PFI・PFNのインターンシップの特徴として、8, 9月の2ヶ月間と比較的長期であること、インターンで行うプロジェクトのテーマに精通している社員がメンターにつき一緒にプロジェクトを進めていくこと（大抵の場合1人の学生に対してメンター2
Google teaches “AIs” to invent their own crypto and avoid eavesdropping
Google Brain has created two artificial intelligences that evolved their own cryptographic algorithm to protect their messages from a third AI, which was trying to evolve its own method to crack the AI-generated crypto. The study was a success: the first two AIs learnt how to communicate securely from scratch. The setup of the crypto system. P = input plaintext, K = shared key, C = encrypted text,
Accelerate Machine Learning 1000 Times
A few weeks ago I wrote Speedup Machine Learning 1000 Times. I question why current machine learning algorithms are so slow, and raise the challenge to make machine learning 1000 times faster so it can have practical usage on personal devices. I further proposed possible approaches to speed up machine learning several orders of magnitude faster. I am not talking about machine learning algorithms t
Object Detection - handong1587
Papers Deep Neural Networks for Object Detection paper: http://papers.nips.cc/paper/5207-deep-neural-networks-for-object-detection.pdf OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks arxiv: http://arxiv.org/abs/1312.6229 github: https://github.com/sermanet/OverFeat code: http://cilvr.nyu.edu/doku.php?id=software:overfeat:start Scalable Object Detection usi
AI Pioneer Yoshua Bengio Is Launching Element.AI, a Deep-Learning Incubator
AI Pioneer Yoshua Bengio Is Launching Element AI, a Deep-Learning Incubator One of the founding fathers of the deep learning movement is building a Silicon Valley-style tech incubator for AI. Yoshua Bengio, one of the leading figures behind the rise of deep learning, is launching a Silicon Valley-style startup incubator dedicated to this enormously influential form of artificial intelligence. The
Hybrid computing using a neural network with dynamic external memory - Nature
Thank you for visiting nature.com. You are using a browser version with limited support for CSS. To obtain the best experience, we recommend you use a more up to date browser (or turn off compatibility mode in Internet Explorer). In the meantime, to ensure continued support, we are displaying the site without styles and JavaScript.
GitHub - IntelLabs/SkimCaffe: Caffe for Sparse Convolutional Neural Network
⚠️ DISCONTINUATION OF PROJECT - This project will no longer be maintained by Intel. Intel has ceased development and contributions including, but not limited to, maintenance, bug fixes, new releases, or updates, to this project. Intel no longer accepts patches to this project. If you have an ongoing need to use this project, are interested in independently developing it, or would like to maintain
Recurrent Neural Networkの基礎（Peterさんのチュートリアルの翻訳） - Qiita
はじめに RNNについての分かりやすいチュートリアルとして、TensorFlowのRNNを基本的なモデルで試すでも触れられていた、Peter's notesのHow to implement a recurrent neural network Part1を翻訳しました。 Tutorial 翻訳 翻訳するにあたり、日本語にすべきか、英単語のままにすべきか悩むところが多かったです。 訳の誤りや分かりづらいところございましたら、アドバイス頂けると嬉しいです。 (なお、Peterさんには翻訳・アップロードの許諾を頂いてます。) チュートリアルの内容 簡単なRNNをPythonで実装していきます。 入力データとして、10回にわたって、0または1の数字を取得し、取得した数字を記憶しながら、最終的にその合計値を返す、という簡単なモデルをRNNで実装していきます。 RNNの基礎 BPTT法 勾配爆発、勾
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
人工知能の未来はカナダにある？ ディープラーニングの生みの親、「AIインキュベイター」を開設
GitHub - phreeza/tensorflow-vrnn: A variational recurrent neural network implementation in tensorflow
GitHub - alexjc/neural-enhance: Super Resolution for images using deep learning.
Microsoftが、ディープ ラーニングの進展に向けてMicrosoft Cognitive Toolkitのベータをリリース
