30分で完全理解するTransformerの世界
はじめに 初めまして。ZENKIGENデータサイエンスチームのはまなすです。正式な所属はDeNAデータ本部AI技術開発部なのですが[1]、業務委託という形で今年度から深層学習系の開発等に携わっています。 深層学習界隈では、2017年に衝撃的なタイトル（Attention Is All You Need）の論文が発表されてから早5年半、元出自の機械翻訳タスクを大きく越えて、Transformer関連の技術が様々な領域で用いられる汎用アーキテクチャとして目覚ましく発展し続けています。 今回はそんなTransformerが現時点までにどのように活用されてきたか、また、どのように工夫されてきたかをざっくりと俯瞰し、流れをおさらいする目的の記事になります。本記事の大枠は、2021年時点でのサーベイ論文である A Survey of Transformers に倣いつつ、適宜、2023年2月上旬現在ま
Same Stats, Different Graphs: Generating Datasets with Varied Appearance and Identical Statistics through Simulated Annealing
“…make both calculations and graphs. Both sorts of output should be studied; each will contribute to understanding.” F.J. Anscombe, 1973 Anscombe’s Quartet It can be difficult to demonstrate the importance of data visualization. Some people are of the impression that charts are simply “pretty pictures,” while all important information can be divined through statistical analysis. An effective (and
東京大学 講義 Global Focus on Knowledge UT OpenCourseWare
東京大学の講義や公開講座の映像・音声をポッドキャストでもお楽しみいただけます。東京大学が誇る「世界の叡智」をいつでも、どこでも、より多くの方々に体験していただきたいと考えています。 MIMA Search とは、UT OCW、MIT OCWに公開されている各授業のシラバスの関係を構造的に見ることができる検索システムです。MIMA Searchは、シラバスに含まれている各種の情報をもとに、検索結果を「点」と「線」でネットワーク表現します。
東日本沖で起きた巨大地震について 静岡大学防災総合センター教授 小山真人
東日本沖で起きた巨大地震について 静岡大学防災総合センター教授 小山真人 （2011年3月21日記、23-24日リンク追加、24日富士山と延宝地震について追記、30日いくつかの補足とリンク修正・追加、4月2日修正と補足、4月17日補足と「ふじのくに防災学講座」での講演スライドを追加、6月12日図の追加） 4月16日「ふじのくに防災学講座」での講演スライド「東日本大震災を起こした地震とその影響」（PDF）（加筆修正第2版） 5月24日地球惑星科学連合学会での口頭発表スライド「地震・火山に関する防災情報の実効性検証の現状と課題」（PDF） 大変なことが起きてしまいました。日本海溝に沿った三陸沖から茨城沖までのすべてのプレート沈み込み境界が同時に破壊し、マグニチュード（以下、M）9.0という超巨大地震が起きました（図１）。 この震源域の北に隣接する千島沖から十勝沖までの領域では、数十年に一度程度
http://ocw.kyoto-u.ac.jp/jp/engineering/course04/lecturenote.htm
What is Creativity?-Emergent Phenomena in Complex Adaptive Systems October 20(Mon)〜22(Wed) 2008 CO-OP Inn Kyoto Conference Hall ワークショップ参加ご希望の方はrequest-ocw@media.kyoto-u.ac.jpまでお名前（漢字とローマ字表記）、所属、役職、e-mail、懇親会の参加希望の有無をお書き添えの上お申し込みください。締め切りは10月10日になります。 →ワークショップ プログラムPDF →ワークショップ詳細HP OCW関連講義 全学共通科目 創造性とは何か？（村瀬雅俊准教授） 国際交流センター 日本語入門初級 日仏交流150周年・京都大学創立111周年国際フォーラム 国際フォーラム ビデオ→ 動画で見る京都大学 ・What is Li
Co LtdとIncの意味の違い - 日向清人のビジネス英語雑記帳：スペースアルク
コメント・トラックバックについて 不適切と思われるコメント、本企画の趣旨にそぐわないコメントは掲載されない場合もあります。営業・勧誘目的と思われるコメントに関しても同様と致しますので、あらかじめご了承ください。 記事と無関係な内容のトラックバック、商用あるいはサイト誘導目的のトラックバックについては、当サイト運営者の判断で削除する場合もあることをご了承ください。 コメント投稿時にメールアドレスを公開すると、不特定多数からメールを受ける可能性があります。フリーメールを使用するなどしてご注意ください。 Co LtdとIncの意味の違い 社名の英語表記に入っている Co. Ltd.や Inc. について、ときおり、どう違うのだという質問を受けますので、きょうはその話をさせていただきます。 両方とも、会社が破綻しても、構成員（法律上は「社員」と呼ばれる出資者や株主のこと）は出資額をあきらめれば済み
iv.xight.org - 情報視覚化
■ Information Visualization の用途 情報検索 データ解析 プログラムデバッグ ■ Information Visualization に必要な技法 必要なものだけ表示する技法 画面の表示可能領域に制限 情報を選択的に表示 ズーミング手法・フィルタリング手法・重要度計算手法・画面を歪ませて表示する手法 e.t.c. 全体と詳細を同時に見る技法 全体を概観しながら詳細も見ることが可能 ズーミングの応用 抽象データの画面へのマッピング技法 表示すべきデータがユーザ操作により変化 表示すべき情報をどのような位置，形，色で表示するか グラフの自動配置手法・階層構造の表示手法 e.t.c. 自動レイアウト技法 重なりがちゃんと見えるように グラフの自動配置手法の一つ？ インタラクション技法 直接操作によって画面を移動・拡大させたり，条件を変更して動的検索を行ったりする手法
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ルーティング とネットワーク管理論