安全で信頼できる対話AIのためのアプローチ：InstructGPT, Sparrow, Galactica - どこから見てもメンダコ

OpenAIのInstructGPT, DeepMindのSparrow, MetaのGalacticaにおける対話AIの信頼性/安全性向上のためのアプローチをまとめます Words have the power to both destroy and heal. When words are both true and kind, they can change our world. 言葉は人を傷つける事も癒す事も出来る。言葉から憎しみと偽りが消えた時、それは世界を変える力になる ― 仏陀 CivilizationⅣ "アルファベット" 言語モデル論文あるある; 格言引用しがち 安全で信頼できる対話とは何か？ 対話AIの実用化のために 虚言と毒性の問題 安全性ベンチマーク OpenAIのInstruct GPT 強化学習 from Human Feedback （RLHF） 指示によって

[reboot_in]

“強化学習 from Human Feedback （RLHF） GPT-3を安全で信頼できる対話エージェントにしたい！という課題をどのように実現するか考えていきましょう。”