リクルート式 自然言語処理技術の適応事例紹介
This document summarizes recent research on applying self-attention mechanisms from Transformers to domains other than language, such as computer vision. It discusses models that use self-attention for images, including ViT, DeiT, and T2T, which apply Transformers to divided image patches. It also covers more general attention modules like the Perceiver that aims to be domain-agnostic. Finally, it
青空文庫のデータを使って、遅ればせながらword2vecと戯れてみた - 渋谷駅前で働くデータサイエンティストのブログ
もう既に山ほど解説記事が出回っていて、あまつさえそれを利用したwebサービスまで出てきてしまっているword2vecですが、うちの現場でも流行っているのでせっかくなので僕もやってみようと思い立ったのでした。 word2vecそのものについては昨年来大量にブログやら何やらの記事が出回っているので、詳細な説明は割愛します。例えばPFIの海野さんのslideshare(Statistical Semantic入門 ~分布仮説からword2vecまで~)なんかは非常に分かりやすいかと思います。 要するにword2vecって何よ Recurrent Neural Network（再帰型ニューラルネットワーク）で、単語同士のつながり（というか共起関係）に基づいて単語同士の関係性をベクトル化（定量化）し、これを100次元とか200次元に圧縮して表現するもの。。。みたいです（汗）*1。 ※以下のようにご指
【スライド公開☆】「ディープラーニングチュートリアル 応用編：言葉の『意味』表現〜word2vec〜」 | AI tech studio
2015.4.15 【スライド公開☆】「ディープラーニングチュートリアル 応用編：言葉の『意味』表現〜word2vec〜」 みなさんこんにちは 先日、アドテクスタジオが主催した 「ディープラーニングチュートリアル 応用編：言葉の『意味』表現〜word2vec〜」 の様子をお届けいたします おさらい ディーププランニングとは？ Deep Learning(深層学習)は、機械学習の一種であるニューラルネットワークなどを用いた、人工知能技術の総称です。 画像認識のコンペティションで優勝するなど、近年話題を集めています。 広告業界では、広告のテキスト生成、関連度付けにおいて、 単語の意味をベクトルで表現し、単語間の意味類似度をスコア化することが重要となります。 今回、講演のメインテーマとなる「word2vec」 は、大規模データから単語の意味表現を学習する手法で、この分野における最先端技術の一つで
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
