IEEEがAIモデル開発に提言「2倍のパラメーターで性能も2倍になるとは限らない」

[misshiki]

“研究者の指摘によると、AIモデルのパラメーター数を2倍にしても、性能が2倍になるとは限らない。しかし、コストや時間、およびコンピューティングリソースは何倍にも増加する可能性がある。”

[qpci32siekqd]

今の計算機の構成とAI向けの構成が合ってない気がする。VRAMに全部載せないと動かないってのはな…。あと学習データセットを作るツールが十分じゃない、マンパワーいるとか。色々足りてないのに広まった

[kamei_rio]

"AIモデルのサイズが巨大化する傾向は留まる気配がないとしながらも、参入障壁がかなり高いため、このトレンドに乗っていけるのは少数の大手企業や資金の豊富な研究所だけだろう"