【世界一分かりやすい解説】イラストでみるTransformerBeginaid
本記事はThe Illustrated Transformerを和訳した内容になります。引用元はJay Alammarさん（@JayAlammar）が執筆されたブログ記事で，MITの授業でも実際に利用されています。 所々に管理人の注釈が入ります。その場合は，このような鉛筆印のボックス内に記述するようにしています。もし翻訳間違いなどがございましたら，ご指摘いいただけますと幸いです。なお，本記事の作成に関しては，Jay Alammarさんに許可をいただいております。 はじめに 前回の記事では，注意機構についてお伝えしました。注意機構とは，現代の深層学習において至る所で利用されている手法で，ニューラル機械翻訳の精度向上に大きく貢献した概念です。本記事では，注意機構を利用してモデルの学習速度を向上させるTransformerについて見ていきましょう。Transformerは特定のタスクにおいて，G
大規模言語モデルの驚異と脅威
2022年11月にOpen AIが公開したChatGPTが世界で注目を集めている。一般ドメインかつ多言語で、従来のチャットボットとはレベルの異なる高品質の対話をリアルタイムに実現するサービスを（Research Preview版ではあるが）無料で提供し、検索、金融、広告、教育、法務などの広範囲な分野の転換点となり得ることは、驚異的なことである。本講演では、ChatGPTがベースにしているInstructGPTを中心に、大規模言語モデルやプロンプト、人間のフィードバックによる強化学習などの技術を概観する。また、ChatGPTのような生成型の人工知能が社会やビジネス、学術にもたらす脅威について述べる。 https://aip.riken.jp/sympo/sympo202303/
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
