すごく面白い。ファインチューニングモデルは重みの足し算して平均するとアンサンブルしたのと同じ効果があるとか、タスクベクトルの足し算引き算できるとか、いやー、これは面白いね。

stealthinustealthinu のブックマーク 2024/01/09 21:36

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

モデルパラメータの算術 - ジョイジョイジョイ

    深層モデルのパラメータを一列に並べてベクトルにします。このベクトルは大規模なモデルであれば何十億次元にもなります。一見、意味のない数値の羅列のようですが、このベクトルはベクトルとして深い意味がある...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう