【論文紹介】LLMに何度も解答を生成させて正答率を上げる反復サンプリング ~ Large Language Monkeys

【論文紹介】LLMに何度も解答を生成させて正答率を上げる反復サンプリング ~ Large Language Monkeys こんにちは。ZENKIGENデータサイエンスチームの栗原です。 OpenAIから新たなモデルOpenAI o1が発表され話題になっています。 モデル構築における技術や手法の詳細は明らかにされていませんが、強化学習やChain-of-Thought、推論時の計算量によるスケーリングといったトピックが関連していると思われています。 今回はこれらトピックの中から、推論計算量のスケーリングに関する研究として、『Large Language Monkeys: Scaling Inference Compute with Repeated Sampling』を紹介したいと思います。 概要 これまで言語モデルは学習の計算量を大きくすることで性能を向上させてきましたが、本研究は推論（