深層学習による自然言語処理の研究動向
2020/6/11 画像センシングシンポジウム オーガナイズドセッション2 「限られたデータからの深層学習」 https://confit.atlas.jp/guide/event/ssii2020/static/organized#OS2 での招待講演資料です。 コンピュータビジョン分野を中心とした転移学習についての講演です。 パブリックなデータセットも増えていて、物体検出や領域分割などの研究も盛んですが、実際に社会実装しようとするときのデータは学習データと異なる性質（異なるドメイン）のデータである場合も非常に多いです。 本講演では、そのような場合に有効なドメイン適応の原理となるアプローチ2つと応用としての物体検出と領域分割の事例を紹介しています。
Recurrent Neural Networks - Pfi seminar 20141030_rnn
cvpaper.challengeはコンピュータビジョン分野の今を映し、トレンドを創り出す挑戦です。論文サマリ・アイディア考案・議論・実装・論文投稿に取り組み、凡ゆる知識を共有しています。 http://xpaperchallenge.org/cv/ 本資料はViEW2021チュートリアルセッション「最新研究の始め方」のプレゼン素材です。また、xpaper.challengeの2020年末ワークショップとしてプレゼンした「研究効率化Tips」の拡張版です。本資料では3社12研究室300ページにわたるノウハウの詰め合わせです。 VIEW2021のチュートリアルセッションでは時間の制限があるため、こちらの資料から一部抜粋して発表を行うことになりますが、VIEW2021チュートリアルセッションの方にも足を運んでいただければ幸いです。 VIEW2021チュートリアルセッション：http://vie
ディープラーニングによる 自然言語処理 (技術編)
名古屋大学特別講義 2016年6月29日(水) ディープラーニングによる 自然言語処理 (技術編) 日本アイ・ビー・エム株式会社 東京基礎研究所 坪井 祐太 yutat@jp.ibm.com 1 ニューラルネットワーク技術詳細 • 目的関数 • 誤差関数 • 目的関数の最小化 • 勾配法 • 目的関数の微分計算 • 誤差逆伝搬法 • 誤差の分解と対処手法 • 推定誤差に効く手法 • 最適化誤差に効く手法 • RNNの話題 2 目的関数: 誤差 • 教師あり学習の目的関数 • 𝑥 ∈ 𝑋: 入力, 𝑦 ∈ 𝑌: 出力 • 入力xからyを予測したい問題設定 • 真の目的関数: 𝐿∗ 𝜃 = ∫𝑝 𝑥, 𝑦 ℓ𝜃 𝑥, 𝑦 𝑑𝑥𝑑𝑦 • ℓ𝜃は事例ごとの損失関数（後述） • 訓練データでの誤差 • データ分布p(x,y)は普通わからないので訓練データN個: D=
自然言語処理におけるディープラーニングの発展
c � 1. (Natural Language Processing; NLP) (Deep Learning) RGB IBM 135–8511 5–6–52 yutat@jp.ibm.com a) b) 2. 1 0 2 1 Bag of words “White House” 2 [1] 2015 4 Copyright c � by ORSJ. Unauthorized reproduction of this article is prohibited. 23 205 2 Bag of words “Neural networks improve the accuracy.” 1 (NP) (VP) A B C RGB [2] 1 3. 3.1 (Recurrent Neu- ral Networks; RNN) TX X = (x1, x2, . . . , xTX ) TY
Jリーガーだった。
Ｊリーガーだった。 つい先日、取引先の人に「前の会社ではどんな業務をしていたの？」と聞かれた。「プロ契約でサッカー選手をしていました。」と聞かれたら驚かれた。僕はJリーガーだった。でも、かつて所属していたクラブのサポーターですら、僕の名前を聞いてもピンと来ない人も多いだろう。その程度の選手だった。経歴を詳しく書いても、僕のことが分かるのは僕の知り合いくらいだろう。なので書いてみる。 山に囲まれたド田舎に生まれた。7歳で幼馴染とスポーツ少年団に入った。たまたま県選抜に選ばれて、地元の広報に載ったりしてちょっとした人気者だった。小学校6年生の時、県外のプロサッカーチームのジュニアユース入団試験を受けた。もし合格していたら、両親は仕事を辞めて、家族で引っ越す予定だった。ジュニアユースに入っても、そこからトップチームまで昇格してプロになれるのは一握りなのに、仕事を辞める覚悟で応援してくれた。でも僕
自然言語処理のためのDeep Learning
Twitter: ottamm_190 追記 2022/4/24 speakerdeck版：https://speakerdeck.com/masatoto/shen-ceng-xue-xi-falsebu-que-shi-xing-uncertainty-in-deep-neural-networks コンパクト版：https://speakerdeck.com/masatoto/shen-ceng-xue-xi-niokerubu-que-shi-xing-ru-men
TensorFlowでアニメゆるゆりの制作会社を識別する - kivantium活動日記
ついにガロアが死んだ年齢を超えてしまったことに気がつき、自分がまだ何も成し遂げていないことを悲しく思う今日このごろです。 さて、今日はGoogleが出した機械学習ライブラリのTensorFlowの使い方について軽く説明しつつ、ゆるゆりの制作会社の識別を行おうと思います。 TensorFlowとは TensorFlowはGoogleが11/9に公開したApache 2.0ライセンスで使える機械学習ライブラリです。Googleは様々なところでプロダクトに機械学習を活用していますが、TensorFlowは実際にGoogle内部の研究で使われているそうです（TensorFlow: Google 最新の機械学習ライブラリをオープンソース公開 - Google Developer Japan Blog）。 Googleのネームバリューは恐ろしいもので、GitHubのStar数はすでにChainerやC
lstmで自然な受け答えができるボットをつくった | せかいらぼ
pythonの公式ドキュメントはどうにも不自由な日本語なのでまとめ直しあわせて読みたい:LoggingモジュールのイメージLoggerオブジェクトloggerオブジェクトを各モジュールに明示する( logging.getLogger("hogehoge") )ことで、ログを収集する。loggerは名前で管理され、違うモジュールでも同じ名前を指定すると同じloggerになる。木構造loggerは階層構造を持ち、名前をピリオドで分割することで表現する。Python パッケージ名前空間におけるモジュール名は __name__ で取得できるので、logging.getLogger(__name__)を使ってlo... 学習 自然な受け答えを行う日本語のデータセットということで、ask.fmをクロールしたデータを用いる。 ask.fmのディレクトリは”ask.fm/アカウント名”のようになっていて、
TensorFlowによるディープラーニングで、アイドルの顔を識別する - すぎゃーんメモ
以前は MNISTの例を使って画像識別を試してみた けど、次はカラー画像についての識別を試してみる。 「アイドルなんてみんな同じ顔に見える」って 最近も言われてるのかどうか知らないけど、自分もつい5年前くらいまではそう思っていたわけで。その識別を機械学習でやってみよう という試み。 最近はほとんどライブに行かなくなってしまったけど大好きなももいろクローバーZちゃんを題材にしてみることに。 5人のメンバーの顔は機械学習によってどれくらい分類できるようになるのか？？ CIFAR-10 CIFAR-10 という、32×32サイズのカラー画像を10種類のクラスに分類する識別課題があり、そのデータセットが公開されている。これを実際にTensorFlowで学習するための畳み込みニューラルネットワークのモデルや関数などがtensorflow.models.image.cifar10パッケージに同梱されて
特にプログラマーでもデータサイエンティストでも�ないけど、Tensorflowを1ヶ月触ったので超分かりやすく解説 - Qiita
特にプログラマーでもデータサイエンティストでも�ないけど、Tensorflowを1ヶ月触ったので超分かりやすく解説Python機械学習DeepLearningTensorFlow これ書くだけで土日２日間まるまる潰れてしまった。 学んだ内容に沿っているので、順に読み進めるに従ってコードの話になっていきます。 Tensorflow触ってみたい/みたけど、いろいろまだ理解できてない！という方向けに書きました。 ※2018年10月4日追記 大分古い記事なのでリンク切れや公式ドキュメントが大分変更されている可能性が高いです。 この記事のTensorflowは ver0.4~0.7くらいだった気がするので ver2.0~となりそうな現在は文章の大半が何を参考にしているのか分からないかもしれません。 1: Deep Learningってそもそも何してるの? 専門の人からはご指摘入りそうですが、要は回帰
良く分かる「みずほ銀行デスマーチ」
やあ、デスマーチってるかい？ 実はデスマーチ基準ってのがあって、7時間寝られるか。 なんと自宅に居る時間は5時間だけ？継続してたらデスマーチよ。 法律守って作業者が自宅に9時間いられるようにマネジメントするのがお仕事。 （鎮火の初動は、終電まで働かせといて健康管理は自己責任とか言う人の排除から） というわけで、みずほ銀行が最近また話題になったので、振り返ってみよう。 銀行の権力闘争が根本原因さて、みずほ銀行の吸収合併は、こんな感じ。 みずほコーポレート銀行＜改名＝富士銀行←日本興業銀行みずほ銀行＜改名＝（第一勧業銀行←富士銀行のリテール部門）←（みずほ統合準備銀行←日本興業銀行のリテール部門）で、記憶に新しい2011年の東日本大震災システムトラブルの影響で、 システム刷新して再発防止するぜ！というのが2012年スタートの話。 みずほ銀行＜改名＝みずほコーポレート銀行←みずほ銀行 （一体化し
みずほ銀行次期システム関連のまとめ（2016/11/24 追記あり） - Akio's Log
(追記1：2016/7/11 7/7以降のブログ記事などを追加) (追記2：2016/11/24 延期発表の記事を追加) こんばんは。SE兼PM見習いです。 例のみずほ銀行の次期システム開発が話題になってますね。 blog.livedoor.jp blog.livedoor.jp 毎年この時期に、みずほ案件がグダグダだよね、という情報が出てくるのはもう恒例行事となってますが、開発工程終盤を迎えていよいよヤバイ状況が隠しきれなくなっているようです。 趣味が悪いと言われますが、デスマウォッチャーでして、特にこのみずほ銀行案件をウキウキとウォッチングしているのですが、ここでブックマークしている過去の情報を時系列に振り返ってまとめてみたいなと思います。 2002年〜合併時のシステム障害〜 次期システム案件の話に入る前に、みずほ銀行合併時の大規模システム障害に触れておく必要があります。 https:
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
深層学習時代の自然言語処理
自然言語処理分野におけるディープラーニングの現状