Text Summarization with Amazon Reviews
With many products comes many reviews for training.In this article, we will be using fine food reviews from Amazon to build a model that can summarize text. Specifically, we will be using the description of a review as our input data, and the title of a review as our target data. To download the dataset, and learn more about it, you can find it on Kaggle. If you decide to build a model like mine,
Google翻訳における多言語間翻訳の仕組みを転用して、応答時のテンションが変わるチャットボットを作ってみた - Qiita
Google翻訳における多言語間翻訳の仕組みを転用して、応答時のテンションが変わるチャットボットを作ってみた自然言語処理機械学習MachineLearningDeepLearning深層学習 はじめに はじめまして。NTTデータ数理システムでリサーチャーをしている大槻 (Ken) です。 人間と雑談を行うチャットボットを作ることに関心を抱いています。 最近あちこちでチャットボットを耳にするようになりましたね。 Microsoft の女子高生AIりんなや、LOHACO のマナミさん、リクルートテクノロジーズの A3RT Talk API など、様々なチャットボットが盛んに開発されています。その勢いから 2016年はチャットボット元年だったとも言われているほどです。ディープラーニング業界でも自然言語処理系の研究が急速に増えており、今後ますますチャットボットが熱くなりそうです！ 私自身も人間と雑
seq2seq-attnニューラル機械翻訳を試す - Qiita
@tkngueと共著 TL;DR NMTを試してみました. 翻訳結果を見ると、うまくいっている翻訳は驚きの結果でした. ただ,内容語をとんでもない間違いかたをしているものもあったりして面白かったです. 概要 "でぃ〜ぷらーにんぐ"の波が機械翻訳にも来ていて 大きなパラダイムシフトになりつつあります. その圧倒的な表現能力の高さ や 高価なGPGPUが大量にないと話にならないお金持ちゲーであること や 膨大なハイパパラメータ（学習の際の設定の組み合わせ）が 存在することから 「さわるの嫌だなー」と思いつつも、さわらざるを得ない状況になったので触ってみました. 実際にさわってみて, やっぱり凄かったので 投稿する次第です. 本稿では, 再配布可能な対訳コーパスKFTTを対象に日英翻訳をニューラルネット翻訳(NMT)で試してみます. 加えて, これまでのフレーズベースの統計的機械翻訳の典型的なツ
Chainerを用いた対話システムの実装【seq2seq】 - Qiita
はじめに 昨今，DNNs(Deep Neural Networks)の進歩が目覚ましくあらゆる分野で成功を収めています． 良く耳にするのは，画像分類や音声認識の分野ですが，対話システムも例外ではなくなりました． Pythonのライブラリ環境が充実しつつある今，DNNsを用いた対話システムの構築について簡単に紹介したいと思います． 対話システムのためのDNNsモデル 対話システムを構築するためのDNNsのモデルは大きく分けて2つあります． 大量の応答候補に対するランキング学習 -> 入力に対して応答候補文をそのまま選択 発話と応答のペアから，Encoder-Decoderモデルを学習．-> 入力に対して単語単位で応答発話生成 本記事では，後者のEncoder-Decoderモデルについて扱います． Chainerなどのライブラリが充実したおかげで，発話と応答のペアとなるデータさえあれば，誰で
TensorFlowのseq2seqを自前のデータセットで試す - Qiita
seq2seqで利用可能な日本語対話データセットをダウンロードするツールの続きです。TensorFlowのseq2seqサンプルを、このデータで学習できるようにしてみました。 オリジナルのTensorFlowサンプルseq2seqは、WMTの配布する巨大な英仏翻訳のデータセットをダウンロード、展開して処理するコードが入っています。考えなしに動かせる点ではとてもお手軽で良いのですが、自分で用意したデータセットを与えるには向いていません。そこで、指定したディレクトリ上にあるinput.txt(encoder用データ)とoutput.txt(decoder用データ)を読みに行くよう修正したバージョンをgithubに置きました。オリジナルのコードに準じてApache 2.0ライセンスです。 knok/tf-seq2seq-mod: Modified seq2seq on TensorFlow これ
TensorFlow : RNN : Sequence-to-Sequence モデル（コード解説） – OpenAI API / Gemini API | ClassCat® Chatbot
上の図の各ボックスは RNN のセルを表しています、より一般的には GRU セルまたは LSTM セルです （それらの説明については RNN チュートリアル を参照）。エンコーダとデコーダは重みを共有することができますがあるいは、より一般的に、異なるパラメータセットを使用することもできます。多層セルは sequence-to-sequence モデルでも成功的に使用されています。例えば翻訳のために Sutskever et al., 2014 (pdf)。 上に描かれた基本モデルでは、デコーダに渡される唯一のものとして、全ての入力は固定サイズの状態ベクタにエンコードされなければなりません、デコーダにより直接的な入力へのアクセスを可能にするため、attention メカニズムが Bahdanau et al., 2014 (pdf) で紹介されました。私たちは attention メカニズム
TensorFlowチュートリアル - シーケンス変換モデル（翻訳） - Qiita
TensorFlow のチュートリアル（Sequence-to-Sequence Models） https://www.tensorflow.org/versions/master/tutorials/seq2seq/index.html#sequence-to-sequence-models の翻訳です。 翻訳の誤りなどあればご指摘お待ちしております。 リカレント・ニューラルネットワークは、RNN のチュートリアルで説明したように（読んでいない場合は、進む前に読んでください）、言語のモデル化を学習することができます。これは興味深い問題を提起します：何らかの入力で発生する言葉を条件に、意味のある応答を生成することができるか？たとえば、英語からフランス語に翻訳するためにニューラルネットワークを訓練することができるか？答えはイエスであることが判明しました。 このチュートリアルでは、このような
会話モデルをSeq2seqで動かしてもちっとも対話できないので焦ってネタ元論文を翻訳してみる
仕事上でわかったことのうち顧客に関わる情報が無い物、一般公開して差し障りのなさそうな事をたまーに投稿しています。 ちなみに、記事上に載せた私が書いたコードは、用途問わず再利用いただいてかまいませんが、保障は一切いたしませんので、あしからず。 ですます調の記事とである調の記事が混ざりますが..こちらも、あしからず。 翻訳に使われているモデル seq2seq で対話もできるときいたので、 やってみたのだけど.. ..一向に話をしようとしない.. たとえば、 > こんにちは、ごきげんいかが。 そんなに そんなに そんなに どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう どう ど
seq2seqで利用可能な日本語対話データセットをダウンロードするツール - Qiita
knok/make-meidai-dialogue: Get Japanese dialogue corpus というものを作りました。 背景 seq2seq実装をいくつか触ってみて、何かしらの知見を共有したいと思っているのですが、あまり具体例に踏み込んだ話題をなかなか見かけません。 その要因の一つに「日本語」で「対話」の「自由に利用できる」データセットがないことがあるのではないかと考えています。 個人的にTwitterから適度に対話を取得してくるスクリプトを一度作ったことがあったのですが、ノイズが多くかなり手作業でデータをクレンジングする必要がありました。 LSTMで自然な受け答えができるボットをつくったという記事を書かれた人は、ask.fmからデータをクローリングしていますが、やはり苦労はされているようです。 今回作ったもの githubのREADMEにも書きましたが、このツールは日本
TensorFlowのSeq2Seqモデルでチャットボットっぽいものを作ってみた - Qiita
のような感じです。これをtest_data_in.txtとtest_data_out.txtも同様に準備をします。 訓練用306文とテスト用306文(IN,OUTが153ずつ)の計712文で、語彙数は訓練用とテスト用それぞれ約500ずつです。 データは非常に少ないです（泣） 学習のコード 学習を行うコードです。 チュートリアルのデフォルトではバッチ（batch_size）が６４、層の数（num_layers）が3、層のユニット（size）が1024、語彙数が（vocab_size）が40000の大きさでした。 #!/usr/bin/env python # -*- coding: utf-8 -*- # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file ex
TensorBoard: Embedding Visualization
Deploy ML on mobile, microcontrollers and other edge devices
TensorFlowのseq2seqで対話を学習させる - もふもふ技術部
世の中ディープラーニングということで、対話システムに応用できる？とseq2seqをTensorFlowで実装してみます。英仏翻訳のチュートリアルがありますが、今回は日本語の対話でやりたかったので、下記を参考にとりあえずそのまま動かしてみることにします。 TensorFlowのseq2seqを自前のデータセットで試す http://qiita.com/knok/items/b24deb8cff3df48920ee 準備編 seq2seqのコード 対話させてみる おまけ 準備編 まずは日本語での対話データが必要です。これあんまりその辺にあるわけでもないし、ディープラーニングに流せる程度の量を自分一人で作るのは現実的ではないので、上のQiitaの記事のやり方で取得しておきます。 $ git clone https://github.com/knok/make-meidai-dialogue $
seq2seq の chatbot を日本語で動かしてみた - higepon blog
最近ずっと NN/CNN/RNN/LSTM などで遊んでいたのだけど Seq2Seq の encoder/decoder と word embeddings を理解したかったので Seq2Seq の chatbot を動かしてみた。Keras でフルスクラッチで書いていたのだけど上手く動かず。論文読んでもわからないところがあったので https://github.com/1228337123/tensorflow-seq2seq-chatbot を自分なりに読み解いてプロセスが別れてわかりやすいように書き換えた。同時に日本語に対応させて Twitter Bot として動くようにした。 会話例 seq2seq Google 翻訳などでも利用されている seq2seq というタイプの Neural Networks を利用しています。入力も出力も時系列データ。例えば会話とか翻訳とかに使えます。
ディープラーニング(seq2seq)でtwitter chatbotを作ってみた - Qiita
こんにちは。今年は冬休みをとても長くとったのですが、肉や蟹や餅や酒を連日消費しているうちに人体が終わっていき、気持ちになったので(様々な方向に感極まった状態のことを「気持ちになる」と表します)、世間で流行っているらしいディープラーニングの関連情報をつまみ食いしてチャットボットを作ってみることにしました。 入力文に対しニューラルネット(RNN)で応答文を生成して返事します。 @neural_chatbot というtwitterアカウントで動かしています。 ご興味があればぜひ@neural_chatbotに話しかけてみてください。 あらすじ ニューラルネットというものがあり、関数を近似することができ、知られています。 Recurrent Neural Network (RNN)というものがあり、内部状態を持つことができ、自然言語を含む可変長の系列を取り扱うのに便利で、知られています。 Sequ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://render.githubusercontent.com/view/ipynb?commit=6353fa16ba194ede9d767c8dbf3db4506762bba7&enc_url=68747470733a2f2f7261772e67697468756275736572636f6e74656e742e636f6d2f6d326473757073646c636c6173732f6c656374757265732d6c6162732f3633353366613136626131393
http://web.stanford.edu/class/cs20si/lectures/slides_13.pdf
Reddit - Dive into anything