Training Composer for longer horizons · Cursor

We train Composer for long-horizon tasks through a reinforcement learning process called self-summarization. By making self-summarization part of Composer's training, we can get training signal from trajectories much longer than the model's max context window. This translates into Composer being able to learn to work on challenging coding tasks requiring hundreds of actions. #The limits of compact

[mkusaka]

Composerのself-summarization学習でコンテキスト超えの長期タスクに対応し、CursorBenchで誤差を50%削減する。

[Kesin]

compactionの改善をプロンプトではなくてモデル自体に組み込んでしまうのはコーディング専門モデルならではなのかな。composerモデルの次バージョンの開発が進んでいるらしい

[misshiki]

Composerは自己要約を学習し、長いタスクでも重要情報を保持。圧縮誤差50%削減・トークン5分の1で、170ターンの難問も解決。長期推論の新アプローチ。