タグ

ブックマーク / data-analytics.fun (3)

  • 【論文解説】Google の対話 AI『LaMDA』を理解する

    この間までは『DALL-E2』や『Midjourney』といった文章から画像を生成するモデルが話題になっていましたが、最近では OpenAI の『ChatGPT』や『PerplexityAI』と言った対話システムが盛り上がっていますね。 特に OpenAI の『ChatGPT』は Microsoft のブラウザ Bing による検索に使われるということで、Google を脅かす存在になっているようです。 それに対抗するかのように Google は『Bard』という対話システムを発表しましたが、それはそれで問題も出てきているようですね。 ここでは、その『Bard』で使われているモデルである『LaMDA (Language Models for Dialog Applications)』について解説したいと思います。 一通り仕組みを理解していただくことで、対話システムにはどんな課題があって、ど

    【論文解説】Google の対話 AI『LaMDA』を理解する
    jun_okuno
    jun_okuno 2023/05/19
  • 【論文解説】OpenAI ChatGPT の仕組み『InstructGPT』を理解する

    2022年11月に公開されて以来、非常に話題になっている ChatGPT ですが、今回は ChatGPT で使われているモデル『InstructGPT』を解説したいと思います。 もともと OpenAI では 『GPT-3』 という巨大言語モデルを作り、それが一般の人にも API の形で公開されていました。 (2023年3月より ChatGPTAPI も公開されています。詳しくはこちらをご参照ください ⇒ 「OpenAIChatGPTAPIの使い方を解説」) GPT-3 では、人間が書いたものと区別がつかないようなニュースの文章を生成したり、いくつかの例示をするだけで人間のようにうまくタスクをこなしたり、アイデアを列挙したりと様々なことができるようになっています。 OpenAI GPT-3 APIの使い方を解説 2021年11月18日にOpenAIが「GPT-3」のウェイティング

    【論文解説】OpenAI ChatGPT の仕組み『InstructGPT』を理解する
    jun_okuno
    jun_okuno 2023/05/19
  • 【論文解説】OpenAI GPT-4 を理解する

    さて、ChatGPT が非常に盛り上がっていますが、2022年11月にリリースされた ChatGPTGPT-3.5 というモデルがベースになっています。 そして、2023年3月にはその後継モデルである GPT-4 がリリースされ、ChatGPT Plus で利用できるようになっています。(月額20$) それ以降も画像データを処理できるようになったり、個人の好みを記憶できるようになったりと色々なアップデータがあってこの先どうなるんだろうと楽しみになりますね。 今回は、もともとの GPT-4 についてしっかりと解説したいと思います。 ちょっとした対話であれば GPT-3.5 でも GPT-4 でもそこまで大きな差はないように思えますが、GPT-4 に情報抽出や分類問題などのタスクを解かせようとすると、GPT-4 の方がかなり精度が良くなっていることがわかります。 ですので、より複雑な利用

    【論文解説】OpenAI GPT-4 を理解する
    jun_okuno
    jun_okuno 2023/05/19
  • 1