対話型AIサービス「ChatGPT」で使われている自然言語モデルの核になっている技術が「Transformer」だ。自然言語処理を例に、Transformerの仕組みを解説する。 すっかり市民権を得た対話型AIサービス「ChatGPT」。ChatGPTで用いられている自然言語モデルが「GPT」（Generative Pre-trained Transformer）です。いわゆる「大規模言語モデル」（LLM：Large Language Model）の1つであり、本稿執筆時点（2023年12月）の最新バージョンは「GPT-4 Turbo」です。バージョンを追うごとに、精度向上などの進化を遂げてきました。 このGPTの核となるディープラーニング（深層学習）のモデルが「Transformer」です。前述のGPTの正式名称を見直すと、「T」はTransformerのTであることがわかります。このネ
1. はじめに 2018～2019年に、本コラムの旧シリーズとなる全5回のAI入門コラムを書かせていただきました。それ以降、この人工知能に関しては、皆さんもご存じの通り、2022年の中旬以降に大きな進展がありました。当時のコラムでは深層学習（Deep Learning）は人工知能の3次ブームだ！という表現をしましたが、今回解説する生成AI（Generative AI）は、さらに第3.5次ブームとか、第4次ブームともいわれるほどの大きな進展です。この技術は進展が速く、本コラムはすぐに陳腐化してしまうかもしれませんが、できるだけ普遍的な基礎理解のための続編の位置付けとして投稿します。既に沢山の解説記事や書籍が存在しますが、私なりの視点で生成AIについて、分かりやすく解説してみたいと思います。今回も数式は使いませんので、ご安心を。 2. 人工知能への期待と挑戦 さて、深層学習（Deep Lear
Tweet 概要 前回のコラムでは、コンピューターの生い立ちからエキスパートシステムとしての期待、機械学習の誕生、そして最近の人工知能ブームの火付け役となった人間の脳の神経細胞を模したニューラルネットワークとディープラーニング（深層学習）についてご紹介しました。今回はこのニューラルネットワークが実際にどういう仕組みで動き、活用されるかをご紹介します。なお、今回から鈴木に代わりAIビジネスコーディネーターの川村がご紹介させていただきます。 4. いま一度「学習」とは？機械学習から深層学習へ 前回のお話で、コンピューターの学習とは、「集めた多くのデータに合わせてプログラムを変える」と説明しました。つまり、これは人間が行う「学習」と同じことで、多くの経験に基づいて、考え方を変えるということです。考え方を変えることの結果として、例えばある事象の次に起こることを正確に類推したり、ある事象を正確に理解
非常識にもほどがある！ブリッジRNAが橋渡しするDNA組換えメカニズム | 東京大学 先端科学技術研究センター
東京大学 発表のポイント 大腸菌のゲノムに存在するIS621転移因子はIS621リコンビナーゼとブリッジRNAを産生する。 IS621リコンビナーゼはブリッジRNAと複合体を形成し、ブリッジRNAと相補的なドナーDNAおよびターゲットDNAのあいだの組換え反応を触媒する。 クライオ電子顕微鏡解析により、IS621リコンビナーゼ－ブリッジRNA－ドナーDNA－ターゲットDNA複合体の立体構造を決定し、RNA依存性DNA組換えメカニズムを解明した。 IS621リコンビナーゼはこれまでの常識を覆す「プログラム可能な」DNA組換え酵素であり、次世代ゲノムデザインツールとしての利用が期待される。 概要 東京大学先端科学技術研究センターの西増弘志教授らのグループは、アーク研究所(Arc Institute)のパトリック スー(Patrick D. Hsu)博士らのグループとの共同研究により、大腸菌由来
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GPTを生んだ先端技術「Transformer」、その基礎を正しく理解する
続・AI入門 第1回 生成AIの仕組みを知ろう | NTTデータ先端技術株式会社
第2回 人工知能（AI） ニューラルネットワークと深層学習 | NTTデータ先端技術株式会社