AIのスケーリング則は2020年1月にOpenAIが提唱した法則で、「AIモデルの性能は、『学習に使われるデータの規模』『学習に使われる計算量』『モデルのパラメーター数』が増加するほど強化される」というものです。この法則について、AIの動向に詳しいゲイリー・マーカス氏が「AI業界ではスケーリング則が通用しなくなっている」と指摘する記事を公開しています。 The new AI scaling law shell game - by Gary Marcus https://garymarcus.substack.com/p/a-new-ai-scaling-law-shell-game マーカス氏によると「スケーリング則」という言葉の意味は変化を続けており、記事作成時点で語られるスケーリング則は大きく3種類に分かれるとのこと。1つ目はOpenAIが提唱したものに近い「学習時間が長いほどAIの性
