小規模言語モデルが最先端AIを「コスト・速度・精度」で上回る | Forbes JAPAN 公式サイト（フォーブス ジャパン）

AI競争は初日から「より大きい」ことによって定義されてきた。より多いパラメータ、より多い学習データ、より高い能力。そのすべてが、ほぼ何でもこなせる少数の最先端大規模言語モデル（LLM）へと収れんしていった。モデルは時間とともに進歩した一方で、価格もそれに伴って上昇し、規模拡大時の手頃さへの懸念が世界的な議論の中に忍び込むようになった。ScaleDown AIによる新たなベンチマークは、人工知能において成功の処方箋は「より大きい」ことではない可能性を示唆している。 これらの新しいレポートのデータは、ほとんどの本番システムを占める大量かつ反復的な作業において、異なる勝者を指し示している。それはタスク特化型小規模言語モデル（TSLM）だ。あらゆることをこなそうとするのではなく、1つの仕事を極めるために構築されたモデルである。ScaleDownが公開したテストでは、テキスト分類のみに特化したTSL

[raitu]

言語モデルをテキストの要約・抜粋・分類等に特化することで"3つの公開ベンチマーク全体で、ScaleDownは、自社モデルがAnthropicのClaudeモデルより平均で精度が8%高く、コストは161分の1で、応答は3.8倍速い"形にしたと

[mmaka2787]

タスク特化モデルをLLMで作るのが良さそう。TSLMではないがhaikuは与えるタスクを十分に小さくすると出力品質が向上するので、タスク特化的に運用することでquotaの節約になる。

[hayeta]

“単純な分類において5億パラメータのモデルが91.7%の精度に達した一方、720億パラメータのモデルは88.6%にとどまった。”