タグ

2023年7月28日のブックマーク (3件)

  • ChatGPT の仕組みを理解する(後編) - ABEJA Tech Blog

    こちらは「ChatGPT の仕組みを理解する」の後編記事になります。 前編は以下の記事をご参照ください。 tech-blog.abeja.asia 前半記事では、自然言語の基礎的な部分から GPT-3.5 まで説明していきました。GPT-3.5 の次としては、ChatGPT の元になっている InstructGPT を説明したいところなんですが、InstructGPT では強化学習の手法を使用しているので、後半記事では一旦自然言語から離れて強化学習の基礎から PPO までを説明し、最後にメインコンテンツである InstructGPT → ChatGPT を説明します。 強化学習の基礎事項 強化学習のモデル化 環境のマルコフ性とマルコフ決定過程(MDP) 価値関数 強化学習手法の分類 価値ベースの強化学習手法 方策ベースの強化学習手法と方策勾配法 アクター・クリティック手法 TRPO [Tr

    ChatGPT の仕組みを理解する(後編) - ABEJA Tech Blog
  • ChatGPT/LLM・AIについて資料をまとめた (講演90分Ver) | IIJ Engineers Blog

    90分でChatGPTやLLMについてお話ししました 世は第三次人工知能ブームまっただ中です。IIJでも九州支社のとみがITインフラ屋の視点から出発したAI探求の模様をこのblogに寄稿していますし、他にも社内あちこちでAIに関する実験や遊びが行なわれています。 そんな中、ご縁があって株式会社STNet様主催、スマートシティたかまつ推進協議会様後援のセミナーにて、ChatGPTを含めたAIの最近の動向について講演する機会をいただきました。セミナーでは90分でChatGPTの紹介から、LLM(大規模言語モデル)のごく基的な構造、そして「ChatGPT・LLMを業務に利用する」ということについて、私見を交えてお話をいたしました。主催者様が力を入れて紹介してくださった事もあり、思いのほかたくさんの方にお話を聞いていただくことができました。(ご参加いただいたみなさんありがとうございます) そのと

    ChatGPT/LLM・AIについて資料をまとめた (講演90分Ver) | IIJ Engineers Blog
  • ChatGPT の仕組みを理解する(前編) - ABEJA Tech Blog

    こんにちは!株式会社 ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。世間では ChatGPT などの大規模言語モデル(LLM)による対話型 AI が盛り上がってますね。クオリティーも凄いし AI 業界以外でも盛り上がってると嬉しいですよね。この数年で一段と AI の社会実装が業界以外の人にも目に見える形で進んできたなあと実感しております。 自分は普段業務では ABEJA Platform という AI プロダクトやその周辺プロダクトのバックエンド開発とフロントエンド開発をやっているのですが、AI 業界所属していながら ChatGPT などの LLM 全然追いかけれていない状態になっちゃてて自責の念にかられているので、このブログ執筆という良い機会に ChatGPT の仕組みについて調べてみました。 記事の対象読者としては、以下のようになりま

    ChatGPT の仕組みを理解する(前編) - ABEJA Tech Blog