GPT-4以上？ 自分で何度も“推敲”し完成度を上げる言語生成AI「Self-Refine」

Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 米カーネギーメロン大学、Allen Institute for Artificial Intelligence、米ワシントン大学、米NVIDIA、米UC San Diego、米Google Researchに所属する研究者らが発表した論文「Self-Refine: Iterative Refinement with Self-Feedback」は、大規模言語モデル（LLM）が、より高品質な出力を生成するために、反復的な改良と自己評価を利用することを可能にする新しいフレームワークを提案した研究報告である。

[ryouchi]

なぜなぜ分析で鬱になってしまう記事を探しにきたがここではなかったようだ

[yudukikun5120]

高階の意識

[ryosuke134]

人間が問題解決の際に取り組む基本的な特徴である反復な改良を模したモデルってことか。言語などは反復することによって改良ができると思っているのだけど、それって本当かってところも気にしたい。

[astana]

円城塔みが出てきたな…

[misshiki]

“「Self-Refine: Iterative Refinement with Self-Feedback」は、大規模言語モデル（LLM）が、より高品質な出力を生成するために、反復的な改良と自己評価を利用することを可能にする新しいフレームワークを提案した研究報告”

[pikopikopan]

日本語版よろ

[shunkeen]

トークンごとに生成する大規模言語モデルの場合、入力は全体を参照できるけど、出力は直前までのトークンしか見えないはずだから、入力に入れ直す意味はありそうだけど、推敲は何回やる必要があるのだろうか。

[urtz]

自己学習は機械学習では一般的だが、LLMでも応用する試み

[snailcat]

フィードバックの仕組みが気になる。正しいフィードバックを出力するのも教師なしでできるものなのか。それ自体もLLMから出力できるなら最初から出せそうな気がするけど違うのか

[fnskun]

子供用にふりがなもふってほしい。

[Seamless]

文章(コード)を評価し修正案を生成,それを参考に改良を繰り返す。GPT-4の直接生成よりも最大40％以上向上する結果に。図左が元文章,中央が修正案,改良結果。