はてなブックマーク

このサイトは「大規模言語モデルは新たな知能か」に関する情報、訂正情報などを掲載します。誤りやコメントがありましたら サポートメール宛に送っていただけたら幸いです。 書誌情報 # ”対話型サービスChatGPTは驚きをもって迎えられ、IT企業間で類似サービスをめぐる激しい開発競争が起こりつつある。それらを支える大規模言語モデルとはどのような仕組みなのか。何が可能となり、どんな影響が考えられるのか。人の言語獲得の謎も解き明かすのか。新たな知能の正負両面をみつめ、今後の付き合い方を考える。”（出版社紹介文より） タイトル：大規模言語モデルは新たな知能か - ChatGPTが変えた世界 - 著者： 岡野原　大輔 出版社：岩波書店 刊行日：2023/06/20 ページ数：140ページ 出版社ページ Amazon / 楽天ブックス / honto / 紀伊国屋書店 試し読み（目次 + 序章10ページ）

株式会社 Preferred Networks 岡野原 大輔 @hillbig 生成モデルは世界を どのように理解しているのか 「統計的機械学習」の中核としての 統計数理シンポジウム 2023/05/25 アジェンダ • 現在の代表的な生成モデル 大規模言語モデル/ 拡散モデル • 自己教師あり学習 / メタ学習 • 未解決問題 岩波書店 2023 一般向け 関連書籍 岩波書店 2023 専門家向け 技術評論社 2021 2022 ディープラーニングの基礎知識 日経BP 2022 個別の深い話題 生成モデル x ~ p(X | C) X: 生成対象 C: 条件 • 生成モデル：対象ドメインのデータを生成できるようなモデル – テキスト、画像、動画、化合物、行動列 等 – 条件を通じて、制約、指示、対象ドメインなどを指定する （条件付き生成モデルの方が学習の面でも使いやすさの面 でも有利であ

Preferred Networks 岡野原 大輔 @hillbig 拡散モデルとその周辺 Workshop OT 2023 2023/03/17 本講演中の図の一部は岩波書店「拡散モデル」（岡野原 著）から引用しています アジェンダ • 拡散モデルとは • デノイジングスコアマッチング • 確率微分方程式 - 確率ODEフロー • フローマッチング • 今後の展望 拡散モデルとは 拡散モデル [Sohl-Dickstein+ 2015] [Song+ 2019] [Ho+ 2020] • 非平衡熱力学を源流に持つ、深層生成モデルの一種 • データにノイズを徐々に加えていく拡散過程を逆向きに 辿る逆拡散過程（生成過程）によって生成モデルを定義する • データを破壊することで生成方法を学習する https://yang-song.net/blog/2021/s core/ 拡散モデルの広がり

このサイトは「拡散モデル - データ生成技術の数理」に関する情報、訂正情報などを掲載します。誤りやコメントがありましたら サポートメール宛に送っていただけたら幸いです。 書誌情報 # 本書の試し読み（出版社ページ） ”多様で高品質な画像を生成し、人々を驚かせているアプリケーションは、どのような理論と技術により可能になったのか。従来は困難であった高次元のデータを創り出す生成モデルが注目されている。現在、最高の性能を発揮し、画像・動画・音声・化合物の生成など、多様な応用が期待されているのが拡散モデルである。その数理の本質から課題までを世界に先駆けて解説し、理論のさらなる発展を追究する。”（出版社紹介文より） タイトル：拡散モデル - データ生成技術の数理 - 著者： 岡野原　大輔 出版社：岩波書店 ページ数：148ページ 出版社ページ Amazon / 楽天ブックス / honto お知らせ

岡野原　大輔 # Preferred Networks 共同創業者, 代表取締役, 最高技術責任者, 最高研究責任者 / Co-Founder, Chief Technology Researcher, Chief Excective Researcher Preferred Computational Chemistry 代表取締役社長 / Chief Executive Officer Preferred Elements 代表取締役社長 / Chief Executive Officer Preferred Robotics 取締役 / Director PFDeNA 取締役 / Director Preferred Infrastructure 取締役副社長 / Director 興味分野 # 人工知能一般 科学全般（数学、化学、物理、生物学、医学） ビジネス 書籍 # 生成AIの