ChatGPT�人間のフィードバックから強化学習した対話AI

東京大学の研究室内で，今井がChatGPTの知見を共有するために使用したスライド資料です． 特に以下のような話題，技術について解説しています． ・ChatGPTの凄さ ・ChatGPTの技術 ・言語モデル ・プロンプト ・GPTとは ・InstructGPT ・言語モデル…

[TimerTan]

強化学習で使う人間のフィードバックを作るのに一体何人を雇ったのだろう、と思ってたけど、たった40人というのは驚いた。たった40人のフィードバックで世界の何億人が満足するモデルを作れるとは…

[misshiki]

快適に見られるように、slideshareにあったのを一部改訂してSpeakerdeckにアップロードしなおしたらしい。3ページ増えている。

[sayamatcher]

ChatGPTのコア技術はInstructGPT

[stealthinu]

InstructGPTで人間のラベラーを使って強化学習させたのがブレークスルーだったんだな。知性はデータに宿っている。

[currypurin]

https://twitter.com/imai_eruel/status/1640647178984235008?s=46&t=P0ErHvc-CtQVcqiyeGSb5w

[hihi01]

12月の時点でここまで理解されていた方がいらしたと。後で全文読みます。

[hirorinya]

人の手が入った温かみを感じるよね

[mayumayu_nimolove]

暴走したりしないのかな