サクサク読めて、アプリ限定の機能も多数!
なるほど重み行列を{-1, 0, 1}の3値に置換するということか。1.58bits = log2(3) ってことね。
georgew のブックマーク 2024/03/03 21:42
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性もなるほど重み行列を{-1, 0, 1}の3値に置換するということか。1.58bits = log2(3) ってことね。2024/03/03 21:42
このブックマークにはスターがありません。 最初のスターをつけてみよう!
wirelesswire.jp2024/02/28
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
683 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /
なるほど重み行列を{-1, 0, 1}の3値に置換するということか。1.58bits = log2(3) ってことね。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみん...
683 人がブックマーク・95 件のコメント
\ コメントが サクサク読める アプリです /