xiangzeのブックマーク - はてなブックマーク

WaveNet vocoder をやってみましたので、その記録です / WaveNet: A Generative Model for Raw Audio [arXiv:1609.03499] | LESS IS MORE

WaveNet vocoder をやってみましたので、その記録です / WaveNet: A Generative Model for Raw Audio [arXiv:1609.03499] Summary コード: https://github.com/r9y9/wavenet_vocoder 音声サンプル: https://r9y9.github.io/wavenet_vocoder/ 三行まとめ Local / global conditioning を最低要件と考えて、WaveNet を実装しました DeepVoice3 / Tacotron2 の一部として使えることを目標に作りました PixelCNN++ の旨味を少し拝借し、16-bit linear PCMのscalarを入力として、（まぁまぁ）良い22.5kHzの音声を生成させるところまでできました Tacotron2 は

xiangze 2018/03/29

リンク

Interactive C++: Jupyter上で対話的にC++を使う方法の紹介 [Jupyter Advent Calendar 2017] | LESS IS MORE

共通事項すべて、clang/llvmをC++インタプリタのベースにしています。Cxx.jl以外は、C++インタプリタであるclingをベースに、さらにその上にjupyterカーネルを実装しています。 1. cling clingは、いわずとしれた（？）C++インタプリタ実装です。後述するROOTという data analysis framework の一部として、CERNによって開発されています。(20年くらい前の) 古くからあったCINTというC++インタプリタ実装が、clangを使って書き直された、という歴史があります。clingプロジェクトの一環としてJupyterカーネルが開発されています。良いところ clingの起動が速いのでストレスが少ない 5 イマイチなところ IPythonだと使える %time のようなマジックはない cling本体で良いのでは？感が否めない。clin

xiangze 2017/12/22

jupyter

リンク

Gamma Process Non-negative Matrix Factorization (GaP-NMF) in Julia | LESS IS MORE

Gamma Process Non-negative Matrix Factorization (GaP-NMF) in Julia 最近 Julia で遊んでいて、その過程で非負値行列因子分解（NMF）のノンパラ版の一つであるGamma Process Non-negative Matrix Factorization (GaP-NMF) を書いてみました。（まぁmatlabコードの写経なんですが） https://github.com/r9y9/BNMF.jl 元論文: Bayesian Nonparametric Matrix Factorization for Recorded Music by Matthew D. Hoffman et al. in ICML 2010. デモ http://nbviewer.ipython.org/github/r9y9/BNMF.jl/blo

xiangze 2017/12/20

julia
NMF

リンク

DNN統計的音声合成ツールキット Merlin の中身を理解をする | LESS IS MORE

この記事では、音声合成ツールキットであるMerlinが、具体的に何をしているのか（特徴量の正規化、無音区間の削除、ポストフィルタなど、コードを読まないとわからないこと）、その中身を僕が理解した範囲でまとめます。なお、HMM音声合成について簡単に理解していること（HMMとは、状態とは、フルコンテキストラベルとは、くらい）を前提とします。はじめに Merlinの概要については以下をご覧ください。 Wu, Zhizheng, Oliver Watts, and Simon King. “Merlin: An open source neural network speech synthesis system.” Proc. SSW, Sunnyvale, USA (2016). “A Demonstration of the Merlin Open Source Neural Network

xiangze 2017/08/19

リンク

統計的声質変換クッソムズすぎワロタ（チュートリアル編） | LESS IS MORE

はじめにこんばんは。統計的声質変換（以降、簡単に声質変換と書きます）って面白いなーと思っているのですが、興味を持つ人が増えたらいいなと思い、今回は簡単なチュートリアルを書いてみます。間違っている箇所があれば、指摘してもらえると助かります。よろしくどうぞ。前回の記事（統計的声質変換クッソムズすぎワロタ（実装の話） - LESS IS MORE）では変換部分のコードのみを貼りましたが、今回はすべてのコードを公開します。なので、記事内で示す声質変換の結果を、この記事を読んでいる方が再現することも可能です。対象読者は、特に初学者の方で、声質変換を始めたいけれど論文からコードに落とすにはハードルが高いし、コードを動かしながら仕組みを理解していきたい、という方を想定しています。役に立てば幸いです。コード https://github.com/r9y9/VoiceConversion.jl Jul

xiangze 2014/11/14

リンク

Pylearn2, theanoをEC2 g2.x2large で動かす方法 | LESS IS MORE

モチベーション手元のへぼマシンでニューラルネットの学習を回わす半日たっても終わらない最近だとGPU使って計算を高速化するのが流行りだが、手元にGPUはない Deep Learning in Python with Pylearn2 and Amazon EC2 手元にGPUがない…？大丈夫！Amazon EC2を使えば良さそう！！！というわけで、めんどくさいと言わずにec2にお手軽計算環境を整えます。ec2でGPUが乗ったものだと、g2.2xlargeがよさそうですね。ちなみに↑の図、pylearn2のtutorialのRestricted Bolzmann MachinesをMNISTで学習した結果なんですが、手元のマシンだとだいたい6時間くらい？（忘れた）だったのがg2.2xlargeだと30分もかかってない（ごめんなさい時間図るの忘れた）。$0.65/hourと安いんだし（

xiangze 2014/07/25

リンク

Restricted Boltzmann Machines with MNIST | LESS IS MORE

ディープ某を使った研究を再現してみたくて、最近某ニューラルネットに手を出し始めた。で、手始めにRestricted Boltzmann Machinesを実装してみたので、 MNISTを使って学習した結果の重み（22*22=484個）を貼っとく（↑）得た知見をまとめとく Goのコード貼っとくってな感じで書いておく (本当はRBMについて自分なりの解釈を書こうと思ったのだけど、それはまた今度) 実験条件データベースはmnist。手書き数字認識で有名なアレ。学習の条件は、隠れ層のユニット数: 500 mini-batch size: 20 iterationの回数: 15 対数尤度の変化以下グラフに表示している生データ 0 -196.59046099622128 1 -70.31708616742365 2 -65.29499371647965 3 -62.3798326737802