#1 scouty 機械学習講習会 〜自然言語処理入門「Pythonでつくる言語モデル」〜 (2017/09/23 13:30〜)
イベント概要 scouty機械学習講習会は、エディンバラ大学院で人工知能を学んだ代表の島田が、機械学習をこれから学びたいPythonエンジニアに向けて、基礎講習と実践のコーディングを交えてお送りする講習型のワークショップです。 第1回は、自然言語処理入門として、Ngramを使った言語モデルについて扱います。 自然言語処理の基礎の基礎である言語モデルについて、「そもそも言語モデルとは何か？」というところから、Ngramを使った実際の実装まで、講習とコーディングを合わせて学んでいただきます。 Ngramはレガシーな技術ですが、Deep Learningを使った手法と比べても使い勝手がよく、分類問題に限らずいろいろな応用分野があります。 使える道具として、持っておくと役立つこと間違いありません！ 講義内容 言語モデルとはなにか？ 生起確率とエントロピーについて 平滑化について N-gram につ
ソニーが深層学習用GUIツールを無償提供、狙いは組み込み
ソニー システム研究開発本部 要素技術開発部門 AIコア技術開発部 7課 シニアマシーンラーニングリサーチャーの小林由幸氏が発表した。 ソニーはGUI（Graphical User Interface）を使ってディープニューラルネットワーク（DNN）を容易に開発できるツール「Neural Network Console」の無償提供を2017年8月17日に始めた（図1、発表資料）。同社のWebサイトからダウンロードして誰でも利用できる。同社内で開発に利用してきたツールをオープンソースソフトウエアとして公開した（図2）。深層学習の応用を広げていくには、社外の開発者の力を借りることが必要で、それを促すために公開を決めたという。
Deep Learning the Ising Model Near Criticality
It is well established that neural networks with deep architectures perform better than shallow networks for many tasks in machine learning. In statistical physics, while there has been recent interest in representing physical data with generative modelling, the focus has been on shallow neural networks. A natural question to ask is whether deep neural networks hold any advantage over shallow netw
Improving Neural Network Acoustic Models by Cross-bandwidth and Cross-lingual Initialization
Improving Neural Network Acoustic Models by Cross-bandwidth and Cross-lingual Initialization Users expect Siri speech recognition to work well regardless of language, device, acoustic environment, or communication channel bandwidth. Like many other supervised machine learning tasks, achieving such high accuracy usually requires large amounts of labeled data. Whenever we launch Siri in a new langua
マイクロソフトの音声認識システム、「人と同等」レベルに到達
Microsoftの研究員が開発した音声認識システムが、人間の速記者と同レベルとされる単語誤り率を達成した。 Microsoftは米国時間8月21日、同社の音声認識システムが、プロの速記者に匹敵するとされる5.1％の単語誤り率に達したと発表した。 Microsoftは2016年、5.9％の単語誤り率で「ヒューマンパリティ（人間と同程度）」に到達したと考えたが、IBMの研究員らは、そこまでのレベルに達したとするには、IBMの最高記録である5.5％をやや上回る5.1％に達する必要があると主張した。 IBMが実施した速記者に関する研究では、数人に会話を何回か聞いてもらい、もっとも優秀な速記者の結果が選ばれた。 Microsoftのシステムは、2016年のテストと同様に、データセット「Switchboard」コーパスを使って測定された。Switchboardコーパスは、見知らぬ者同士が電話越しに米
Deep Learning for Siri’s Voice: On-device Deep Mixture Density Networks for Hybrid Unit Selection Synthesis
Deep Learning for Siri’s Voice: On-device Deep Mixture Density Networks for Hybrid Unit Selection Synthesis Siri is a personal assistant that communicates using speech synthesis. Starting in iOS 10 and continuing with new features in iOS 11, we base Siri voices on deep learning. The resulting voices are more natural, smoother, and allow Siri’s personality to shine through. This article presents mo
Apple、Siriのテキスト読み上げ音声合成技術（TTS）に関する詳細を公開。Deep learningを含むdeep MDNベースであり、iOS11にも搭載技術。前期OSとの比較音声あり
Apple、Siriのテキスト読み上げ音声合成技術（TTS）に関する詳細を公開。Deep learningを含むdeep MDNベースであり、iOS11にも搭載技術。前期OSとの比較音声あり 2017-08-24 Appleは、バーチャルパーソナルアシスタント「Siri」の背後にあるDeep learningベースの技術について、その中でもdeep MDNベースの「音声合成 テキスト読み上げ（TTS：text-to-speech）」に関するシステムの詳細を公開しました。 同社が構築するSiriのしゃべる音声は、更新とともにより自然に、より現実の人間に似た音声になってきており、今回発表されたTTSシステムも来年秋に最終版をリリースするiOS11に搭載するとした最新の音声合成技術になります。 同社の合成技術は、単位選択合成（Unit selection synthesis）に基づいており、人の
SONYがディープラーニングの統合開発環境『Neural Network Console』を無償公開！ | AI専門ニュースメディア AINOW
ソニーは、ディープラーニングのプログラムを生成できる統合開発環境「コンソールソフトウェア：Neural Network Console）の無償提供を8月17日から開始すると発表した。 ▼プレスリリース「人工知能（AI）を実現するディープラーニング（深層学習）の統合開発環境Neural Network Consoleを公開」 https://www.sony.co.jp/SonyInfo/News/Press/201708/17-073/index.html 本格的な、GUIを持つディープラーニング統合開発環境であるコンソールソフトウェアを用いることで、直感的なユーザインターフェースでニューラルネットワークの設計や学習、評価ができるとしている。 64bit版 Windows8.1およびWidows10に対応。専用サイト（https://dl.sony.com/）も立ち上げた。 開発した認識機
マルコフ連鎖を使って自分らしい文章をツイートする - Qiita
モチベーション Twitterが好きなので，プログラムが自分のツイートを自動生成してくれれば忙しいときも勝手にTwitterやってくれそうだと思いました． 【エヴァンゲリオン】アスカっぽいセリフをDeepLearningで自動生成してみる を読むと，Deep Learning よりもマルコフ連鎖のほうがそれっぽい文章を生成してくれるようなので，その方針でプログラムを組んでみました． …というかまるっきりやってることが同じですね…… しゅうまい君(@shuumai)とか圧縮新聞(@asshuku)もマルコフ連鎖らしいので多分この方針でいいはず． 前処理 過去の自分の全ツイートは json や csv がまとまった zip ファイルで公式サイトからダウンロードすることができます． 自分の全ツイート履歴をダウンロードする 今回はこれで得られるtweets.csvを使っていきます． 全ツイートの中
A Brief Survey of Deep Reinforcement Learning
Deep reinforcement learning is poised to revolutionise the field of AI and represents a step towards building autonomous systems with a higher level understanding of the visual world. Currently, deep learning is enabling reinforcement learning to scale to problems that were previously intractable, such as learning to play video games directly from pixels. Deep reinforcement learning algorithms are
EuroPython2017で2名登壇しました。 - 株式会社カブク
エンジニアの和田と大串です。 イタリアのRiminiという場所で開催されたEuroPython2017というイベントで登壇したので、そのレポートを書きます。 記事の概要 記事の構成は下記のようになっています。 EuroPythonとは 弊社発表内容 OpenAPI development with Python: 和田 How to apply deep learning for 3D object: 大串 カテゴリ別発表 Python系: 7件 A Python for Future Generations Type Annotations in Python 3: Whats, whys & wows! Write more decorators (and fewer classes) Programming in Parallel with Threads Pythonic Refa
ビッグデータ処理「Spark」、深層学習対応進む
ビッグデータ処理のオープンソースソフトウエア（OSS）である「Apache Spark」のディープラーニング（深層学習）対応が進んでいる。Sparkの主要開発企業である米Databricksや米Intel、米Microsoft、米Verizon傘下の米Oath（旧Yahoo!）などが、Sparkの深層学習対応に熱心だ。 分散処理ソフトのSparkは、2014年ごろには機械学習の大規模化に欠かせない存在だと認識されていた。しかしその後の深層学習の台頭によって存在感が薄れていた。深層学習の高速化にはGPU（Graphics Processing Unit）が向いていることが分かり、米Googleが公開した「TensorFlow」などGPUに対応した深層学習フレームワークが人気を集めるようになったためだ。 ところがここに来て、Sparkを深層学習に対応させる動きが活発化している（表）。2017年
An Effective Training Method For Deep Convolutional Neural Network
In this paper, we propose the nonlinearity generation method to speed up and stabilize the training of deep convolutional neural networks. The proposed method modifies a family of activation functions as nonlinearity generators (NGs). NGs make the activation functions linear symmetric for their inputs to lower model capacity, and automatically introduce nonlinearity to enhance the capacity of the
そもそもAIで何ができるのか？実現可能な7つの成果 | 株式会社インキュビット
「AI（人工知能）を活用してビジネスで成果をあげよう」という動きがますます高まってきました。 しかし一方で「AIを魔法の杖だと誤解した人たちが、ムチャな要望を出してくる」というようなボヤキも、またよく耳にする話です。 つまりAI関連の技術によって、何ができて何ができないのか？という点があいまいなままに、期待だけが先行しがちというのが大方の現状といえそうです。 そんな中でちょっと便利な図をみつけました（記事最上部。オリジナルをもとにAI4U編集部で作成）。 「AIによる７つの成果」（Seven spectrum of outcomes for AI）と題された図。その名の通り、AIによって解決できる成果、つまりユーザーニーズを７段階で整理しています。 「認知」や「通知」のように現時点の技術レベルで可能な段階もあれば、人の判断を手助けする「環境認知」といったまだ難しいレベルもあります。 AI事
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Recent Trends in Deep Learning Based Natural Language Processing · Issue #387 · arXivTimes/arXivTimes
世界レベルの｢AIの知財権｣議論が始まった。その先進国は日本 —— 統合国際人工知能学会 in メルボルン
GitHub - dformoso/machine-learning-mindmap: A mindmap summarising Machine Learning concepts, from Data Analysis to Deep Learning.
TechCrunch
https://www.microsoft.com/en-us/research/wp-content/uploads/2017/08/ms_swbd17-2.pdf
GitHub - tensorflow/tfjs-core: WebGL-accelerated ML // linear algebra // automatic differentiation for JavaScript.
