RNNにおけるDropoutの適用について - Qiita
はじめに ディープラーニングにおけるDropoutは単純かつ強力な正則化手法として広く使われていますが、RNNの時間方向に適用するとノイズが蓄積してうまく学習できないため、入出力層にのみ適用するのが常識とされてきました[Zaremba 2014]1。しかし最近の研究でDropoutをベイズ的に解釈することでRNNの時間方向にもDropoutを適用でき、言語モデルのタスクで単一モデルとして最高精度を達成することが示されました[Gal 2016]2 今回は変分Dropoutと呼ばれるこのモデルをTensorFlowで実装したので紹介したいと思います。 Dropoutのベイズ的解釈とRNNへの適用 ニューラルネットワークのパラメータの事後分布を「学習する通常のパラメータ」と「学習しないパラメータ＝０」の2つを中心とする混合ガウス分布で近似することによりDropoutと同様のアルゴリズムが得られる
Python: 多次元 array の argmax
mzmttks's blog for my memorandum の略で mzrandum. Topics are: python, book review, and my hobbies. 多次元の numpy.array の argmax を求めたい時は以下のようにする。 import numpy x = [numpy.array object] numpy.unravel_index(x.argmax(), x.shape) なぜ？ x.argmax() は、1次元行列に変換した時の位置を返す。 numpy.unravel_index は一次元に変換した時の位置と行列の次元からその行列でいうとどの位置かを計算する。 これらを組み合わせると、もとの行列の何行何列目に最大値があるのかが分かる。
黒焦げになった２０００年前の巻物、新技術で中身を解読
ローマ（ＣＮＮ） 古代ローマの時代に書かれ、ベスビオス火山の噴火で黒焦げになった巻物が、現代の新たな技術で解読されたことが２９日までに分かった。 約２０００年前の巻物で、古代ローマの都市ヘルクラネウムの書庫に保管されていた。紀元７９年のベスビオス火山噴火で灰に埋もれ、２６０年前に黒焦げ状態で発掘された。非常にもろく、従来の方法で広げれば崩れてしまう恐れがあった。 しかしイタリア学術会議（ＣＮＲ）の研究者らがこのほどＸ線による断層撮影技術を使って、巻物を広げた画像を作ることに成功した。 研究チームのメンバーは、この技術を全ての美術史研究者や博物館、図書館に使ってもらうことが目標だと話している。 巻物のうち２巻は、古代ローマの哲学者フィロデモスが修辞学について書いた内容で、現在、古代ギリシャ語から英語への翻訳作業が進んでいる。その成果は近く科学専門誌に発表される見通しだ。
AI技術を使って顔写真を笑顔にするアプリ「FaceApp」が公開 真顔でも白い歯を見せる想像以上のいい笑顔に
AI技術を使って顔写真を笑顔にするアプリ「FaceApp」が公開されています。自分や友達の顔で遊んでみると楽しそうです。 AI技術で笑顔に 「FaceApp」は、アプリ内に「SMILE」や「OLD」などのフィルターが用意されており、読み込んだ顔写真を笑顔や老け顔に編集できるというアプリです。実際に使用してみると、真顔の写真も自然な笑顔になりました。「OLD」フィルターは老後の自分が見えてしまうようで、すこし悲しくなってしまうかもしれません……。 笑顔以外のフィルターもあります 「FaceApp」ではニューラル・ネットワークが活用されており、画像はクラウドに送信されて編集されています。「FaceApp」は無料で、現在iOS版のみの提供となっています。海外メディアの情報によると、Android版は現在α版で準備が進められており、近いうちに公開されるようです。今後のアップデートでフィルターの追加
優秀な外国人技術者を使い捨てるSIer
むかついているがどうにもできない。そのことにさらにむかついている。 背景俺は新卒で入ったSIerに勤めて数年になる。 うちの会社は社員数も売上高も数千の中規模SIだ。いつからかわからないが中国にも支社があり、現地の技術者を採用したりもしている。（こうした実績からグローバル企業を謳ったりもしている…） 新卒でも中国人を採用していて俺の同期には5人いた。 同期の中国人技術者の優秀さこの会社に入って最初の合同研修期間で彼らと接することになったのだがまずスペックの高さに驚いた。 まず3ヶ国語を扱える。中国語はもちろんネイティブ、英語はビジネスレベルで習得しており、個人差はあるもののみんな日本語での日常会話に支障はない。外国人に難しいとされる日本語の読み書きも、漢字をある程度知っているだけあってアルファベット圏の人々より習得が早いらしい。 全員バリバリのコンピュータサイエンス出身。 俺は文系学部出身
グーグル 社員に帰国促す 大統領令でＩＴ企業に動揺 | NHKニュース
アメリカのトランプ大統領がテロ対策を理由に入国を制限し世界各地で混乱が起きる中、アメリカのＩＴ企業グーグルが出張などで国外にいる社員に速やかに帰国するよう促すなど、移民が多く働くＩＴ企業の間では動揺が広がっています。 こうした中、アメリカのメディアが２８日、伝えたところによりますと、グーグルのピチャイＣＥＯが社員宛てにメールを送り、出張や旅行でアメリカ国外にいる人は速やかに帰国するよう促したということです。今回の入国の制限で影響を受けかねない社員は１００人以上いるとされ、ピチャイ氏はメールの中で「仲間が大統領令の犠牲になるのは痛々しい。移民問題には注意を払っていく」として強い懸念を示しているということです。 このほか、フェイスブックのマーク・ザッカーバーグＣＥＯも「実際に脅威を与えている人の他にも法的処置の対象を広げることはむしろアメリカ人を危険にさらす」と投稿し、反発しています。アメリカ
東工大って賢いのに知名度で損!? ロボット技術研究会にいろいろ聞いてみた | i:Engineer
こんにちは。ヨッピーです。 突然ですがみなさんは、東京工業大学をご存じでしょうか？ 東京工業大学はその名の通り東京にある工業系の国立大学なのですが、理系では都内の大学の中でも東京大学に次いで偏差値が高く、めちゃくちゃ優秀な学生が集まるすごい大学なのです。 しかしながら、早稲田大学や慶應大学に比べると全国的な知名度は低く、 ・地元の集まりで「ふーん、知らない大学だけどがんばってね」とバカにされる。 ・彼女の親に「どこのバカ大学だ！ 聞いたこともない！」と怒鳴られる。 ・Googleで「東工大」で検索をかけると「もしかして東京大？」と修正される。 などといった、ウソか本当かわからない自虐ネタが流行ったりするような不憫な大学なのです。本当はめちゃくちゃ賢いのに。 そこで本日は……、 知られざる東工大生の実態に密着したいと思います！ そんなわけで急遽お邪魔した34歳のオッサンを出迎えてくれたのは、
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「線画に自動で着色してくれるサービス」が爆誕、あまりの精度の高さに「もう自分で塗る必要ないじゃん…」
羽生理恵さん 18個の連続ツイートで中傷報道やネット拡散の怖さ語る
PaintsChainer
【要注意】ヤフオクでかんたん決済のタイムラグを利用し、商品だけ受け取る詐欺が発生
電車で見ず知らずの女性の名前を知る方法