TensorFlow勉強会(3)の発表資料です。
概要 Neural Networkの収束性能を向上させる手法の一つであるBatch NormalizationをTensorFlowで実装し、効果を検証します。 実装 理論については他の方が丁寧に解説してくださっているので、いきなり実装から入ります。 注意点として、Convolutional Layerの扱いを以下の元論文の通りにします。 For convolutional layers, we additionally want the normalization to obey the convolutional property - so that different elements of the same feature map, at different locations, are normalized in the same way. To achieve this, we
多層ニューラルネットでBatch Normalizationの検証 - Qiitaでクォートされていた、 バッチ正規化使ってないなら人生損してるで If you aren’t using batch normalization you should というのを見て初めてニューラルネットワークでのバッチ正規化というものを知った。 なんか使うだけでいいことずくめらしいので調べてみた。 イントロ論文はBatch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shiftにある。 中身はよく理解してないけど、学習時のミニバッチごとに、各レイヤーの各要素ごとに正規化して学習させることで内部共変量シフト(Internal Covariate Shift)を減らすことができて、それによって学
機械学習の勉強をしているとL1正則化とかL2正則化という用語が出てくると思います。1 L1正則化の場合のペナルティ項:L1ノルムはこんな感じ、 L2正則化の場合のペナルティ項:L2ノルムはこんな感じ、 という説明を見ますが、なぜL1ノルムとL2ノルムこんな形で表されているのか、をもうちょっとだけ掘り下げてみます。 Lpノルムの定義 ベクトル${\bf x}$をn次元、 $$ {\bf x} = (x_1, \cdots, x_n) $$ としたとき、その時$L^p$ノルムは次のように定義されます。
GPUインスタンスは、HVM方式で仮想化されたものであれば、通常のCPUインスタンスと同じマシンイメージ(AMI)を選択して起動できます。 しかし、GPUの機能を利用するためには対応するNVIDIAのドライバをインストールするなど、自分で環境設定を行う必要があります。 そのため、後述のGPUインスタンス用AMIを利用することをおすすめします。 GPUインスタンスの仕様については、 公式ドキュメント に詳細が記述されているので確認してみてください。 GPUインスタンス用AMI GPUインスタンス用として、環境設定済みのAMIがNVIDIAから提供されています。 提供されているOSはAmazon LinuxとWindows Server 2012 R2です。 インスタンス作成時にAWS Marketplaceから検索して利用することができます。 またBitfusionからUbuntuの環境設定
以下の環境で試したので、インストール時の作業記録を残しておきます。 Mac OS X CPUのみ Amazon web service(AWS) GPUあり なお、TensoFlowはWindowsで動作しません。TensorFlowが採用しているGoogle製のビルドツールBazelが、LinuxとMacのみの対応です。手元にMacかLinuxマシンが無ければ、AWSでUbuntu環境を用意するのが簡単だと思います。 Mac OS X CPUのみで動作するパッケージをインストールしました。最もお手軽です。 スペック - MacBook Pro (Retina, 15-inch, Mid 2014) - CPU: 2.2 GHz Intel Core i7 - メモリ: 16 GB 1600 MHz DDR3 公式ドキュメント通りpipでパッケージを導入。 $ sudo easy_inst
仕事上でわかったことのうち顧客に関わる情報が無い物、一般公開して差し障りのなさそうな事をたまーに投稿しています。 ちなみに、記事上に載せた私が書いたコードは、用途問わず再利用いただいてかまいませんが、保障は一切いたしませんので、あしからず。 ですます調の記事とである調の記事が混ざりますが..こちらも、あしからず。 TensorFlow の チュートリアル RNN サンプルである ptb_word_lm.py を動かしてみたのだけど、 TypeError: strided_slice() missing 1 required positional argument: 'strides' というエラーメッセージが表示され動作しない.. で、調べてみると.. strided_slice() missing 1 required positional argument: 'strides' #75
本ページでは、Google Brain Team によって開発されたオープンソースの機械学習エンジンである、TensorFlow (テンソルフロー) を利用して、ディープラーニングの一種である、CNN 法 (Convolutional Neural Network, 畳み込みニューラルネットワーク, ConvNet とも呼ばれる) によるモデルを構築して、画像の自動クラス分類器 (判別器) を作成し、実行する方法を紹介します。 もし、まだ TensorFlow をインストールしていない場合は、「TensorFlow をインストール」の手順にてインストール作業を行いましょう。 今回使用するデータ (CIFAR-10 データセット) 本手順では、TensorFlow の Convolutional Neural Network のチュートリアル にしたがって、CIFAR-10 (読み方は、シー
本稿ではニューラルネットワーク,誤差逆伝播法,言語モデル,RNN,LSTM,ニューラル機械翻訳の一連の手法について数理的に解説する. 前編の目次 ニューラルネットワーク 順伝播 (Forwardpropagation) 逆伝播 (Backpropagation) リカレントニューラルネットワーク (RNN) Recurrent Neural Network Language Model (RNNLM) Backpropagation Through Time (BPTT) Long Short-Term Memory (LSTM) Gated Recurrent Unit (GRU) RNN のドロップアウトとバッチ正規化 ニューラル機械翻訳 (NMT) Sequence to Sequence (seq2seq) 注意 (Attention) 双方向エンコーダー・多層LSTM 評価手法
慶應大阪シティキャンパス 〒530-0011 大阪市北区大深町3番1号 グランフロント大阪 ナレッジキャピタル(北館タワーC 10階) TEL:06-6359-5547(原則 平日12:00~17:00、臨時の休業日にご注意ください) FAX:06-6359-5548 JR大阪駅、阪急大阪梅田駅、阪神大阪梅田駅、地下鉄梅田駅・西梅田駅・東梅田駅より徒歩。 北館タワーC 1階のオフィスエントランスよりナレッジオフィス専用エレベーター(右列4基)に乗り、10Fで降りてください。 ※キャンパスには駐車場はございません。公共交通機関をご利用ください。 ※北館タワーB10階からタワーC10階へは移れません。
こんにちは、バックエンドエンジニアの塩崎です。 今まではiQONの全文検索用のインデックスには形態素解析だけを用いていましたが、先日Ngramも併用することで検索を改善しました。 その結果、検索結果のヒット数が向上し、なおかつ検索ノイズの増加を軽微なものに抑えることができました。 この記事では、Ngramを併用することのメリット、およびそれをApache Solrで利用する方法について紹介します。 欲しい情報が見つからないとは そもそも、「検索したけど欲しい情報が見つからない状態」とはどのような状態でしょうか? ここではその状態を以下の2つの状態に分解して考えてみます。 欲しい情報の数が少ない 1つ目の状態は「欲しい情報が検索結果中に少ない」状態です。 例えば、旅行情報サイトで「東京」と検索した時にDBの中には数千件のデータがあるのに検索結果数がわずか数件しかないような状態です。 欲しくな
■ Document Boost JavaでSolrにインデクシングするプログラムを書く時に、 SolrInputDocumentっていうクラスを使ったりしますが、 特定のフィールドの重要度を上げたいな、という時は ↓のメソッドを使って第3引数にfloatで重み付けします(デフォルトは1.0) addField(java.lang.String, java.lang.Object, float) コレでイイじゃんって言われればそれまでなのですが、 重要度をコロコロ変えて、どんな感じに影響があるか確認しながら検索したい時に、 都度ドキュメントをインデックスし直して、、ってかなり面倒な事になります。 ■ Query Boost インデックスする時にboost値を設定するのが面倒な事になるんだったら、 検索する時に設定してしまえばイイじゃない、というアレです。 DisMaxというコンポーネントを
運用監視クラウドサービスのDatadog、アプリケーション監視の「Datadog APM」を正式リリース。インフラ、ミドルウェア、アプリをまとめてクラウドで監視可能に クラウドサービスとしてITシステムの運用監視を提供しているDatadogは、これまでのインフラ、ミドルウェアの監視サービスに加えて、アプリケーションの監視サービス「Datadog APM」の正式リリースを発表しました。 Datadogは1つの監視サービスと1つのエージェントでインフラからアプリまでまとめてモニタリングできるようになったわけです。 モニタリング対象となるのは、Python、Go、Rubyで書かれたアプリケーション。エージェントがこれらのアプリケーションや代表的なフレームワークを検知し、エラーの発生状況やレイテンシ、スループット、パフォーマンスなどのデータを収集し、クラウド上のサービスとしてリアルタイムにグラフ化
Deep Learningの学習結果(重み)はブラックボックスで、隠れ層のユニット(特に深い層の!)が一体何を学習したのかがよくわからないと長年言われてきた。しかし、今回紹介する方法を使うとニューラルネットが何を学習したのか目で見える形で表現できる。 畳み込みニューラルネットで学習したフィルタの可視化というと以前やったように学習した第1層のフィルタの重みを直接画像として可視化する方法がある。 しかし、畳み込みフィルタのサイズは基本的に数ピクセル(MNISTの例では5x5ピクセル程度)のとても小さな画像なのでこれを直接可視化しても何が学習されたか把握するのはとても難しい。たとえば、MNISTを学習した畳み込みニューラルネット(2016/11/20)のフィルタを可視化しても各フィルタがどの方向に反応しやすいかがわかる程度だ。 各フィルタが何を学習したかを可視化する別のアプローチとして各フィルタ
静岡県湖西市は16日、昨年同市にふるさと納税をした1992人について、別人のマイナンバーを記載して寄付者が住む自治体に通知していたと発表した。国の個人情報保護委員会によると、一度に大量のマイナンバーが本人以外の第三者に漏えいしたのは、2015年10月のマイナンバー制度開始以来最大規模で、マイナンバー法で定められた「重大な事態」に当たるという。同市は「個人情報が外部へ流出する可能性は低い」としている。【竹田直人】 同委員会は、100人以上のナンバー漏えいや不正アクセスを受けた事案などを「重大な事態」としており、2016年度上半期には、いずれも民間業者が約400人分を盗まれたり、誤って削除したりした2件があった。同委員会は同市に、内部調査や再発防止策の策定などを課す。
2020 年 10 月 13 日以降のサポート終了に関して、以下をご確認ください。 今後 Microsoft は、Office 2010 のテクニカルサポート、バグ修正、セキュリティの修正プログラムを提供しません。これにより、脆弱性が報告または発見される可能性があります。 セキュリティ更新プログラムは、有害なウイルス、スパイウェア、およびその他の悪意のあるソフトウェアから PC を保護するためのものです。 Microsoft Update から Office 2010 ソフトウェアの更新プログラムを受け取ることはなくなります。 電話やチャットのテクニカル サポートを受けることはできません。 コンテンツをサポートするための更新プログラムは提供されなくなり、ほとんどのオンライン ヘルプ コンテンツが削除されます。 Microsoft Web サイトから Office 2010 をダウンロードで
データ分析から導き出されたインサイト無しにAI(人工知能)の活用は始まりません。私たちは、各業界知識とデータ・アナリティクス技術を駆使しデータドリブン経営を強力に支援します。 データ、アナリティクス、AIは企業にとって競合他社との差別化を図るかつてないほど大きな要因になっています。今日の経営幹部が効率を向上しながら新たな収益源を開拓し、新しいビジネスモデルをタイムリーに構築する方法を模索する中、価値を生み出し成長を続ける企業には「データ活用」という共通項があります。私たちは、無数のデータから企業にとって本当に必要なデータを活用するための方法を知っています。 将来を見据えたオペレーション体制を備えている企業の半数以上(52%)は、すでにデータとアナリティクスを大規模に活用しています。データとAIに関する取り組みをビジネス戦略に沿って実施することで投資利益率を迅速に最大化し、最終的にはAIをビ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く