2024年3月1日のブックマーク (3件)

  • 1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も

    1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信している筆者は忙殺されていた。 春節中にはOpenAIがSoraを、GoogleがGemini1.5を発表したのは、その合間を縫ってのことだった。もはやAI最前線の戦いは研究が行われる場所の文化や風土に影響を受けるところまで来ている。 そして春節もあけた今週、さっそくAlibabaがとんでもないトーキングヘッドモデルを引っ提げて登場したかと思えば、Microsoft中国チームがとてつもないLLMをリリース

    1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も
    golotan
    golotan 2024/03/01
    転がってるコードを流し見した限りだと学習時もforward時は重み量子化してるけど、元の重み自体は保持してbackward時は流石に浮動小数点数の積和演算してるように見える。推論は爆速化するけど学習はそこまでという感じ?
  • 頭ポンポンがセクハラにならないと思っている方「女性とか若い子にしかしたくないなら、それセクハラだから」→コミュニケーションならおじさん同士でもやって

    ホイップ @chicha0721 頭ポンポンがセクハラにはならないコミニュケーションだと思っている方は相手がたとえ60代男性とかであってもちゃんと頭ポンポンしてあげてほしい 下の名前で呼ぶのも業務外の個人連絡も全部そうしてあげて 女性とか若い子にしかしたくないとかなら、それセクハラだから mon @montserrat5 そうそう。女性にしか微細なボディタッチ等をしないなら、それは性的対象に接触したい願望の表れ。それを当人は無自覚だから「コミュニケーションだ」と言い張ってるだけなのは女性からすると丸わかり。当に”ただの”コミュニケーションなら男性も年配者も同様に触ってるはずなんだよ。 x.com/chicha0721/sta…

    頭ポンポンがセクハラにならないと思っている方「女性とか若い子にしかしたくないなら、それセクハラだから」→コミュニケーションならおじさん同士でもやって
    golotan
    golotan 2024/03/01
    この過程は同性同年代同士ならセクハラになり得ないという前提を含んでいるように見えて、コレクトとは思えない。十分条件であるという前提がはっきりしてるならまだいいが
  • パブコメから見えた反AIの残念な思想|大人間世界

    AIと著作権に関する考え方について(素案)」に関するパブリックコメントの結果について という題名のpdfファイルが文化庁から出されました。 94011401_01.pdf (bunka.go.jp) これについて色々と言われてるわけですが…。 反AIからの論というのが極めてお粗末であるということです。 まず第一に、なぜ最初パブリックコメントの募集の話が挙がった時に、 「様式なんてどうでもいい!硬いこと考えずに意見を送ろう」などという広め方を してしまう人が出てしまったのか…。 第二に、2万も送られたのだから反映されてしかるべきだ!と考えてしまう人の存在。 これは投票ではないんですよ。多数決で何か決まるようなわけじゃないです。 そもそも同じ人が連投したりしてたのに、なぜ数を誇ってしまったのか。チョコワVSスフィンクスか? 大事なのは論でした。なぜAIを規制すべきなのか?なぜAIのみを規制す

    パブコメから見えた反AIの残念な思想|大人間世界
    golotan
    golotan 2024/03/01
    上位ブコメ"学習データの劣化圧縮と伸張である画像生成利用は翻案的ではなく違法" が意味不明。翻案的でないから著作権に触れない、ならまだ分かるけど。あと劣化圧縮って何。特徴抽出はどちらかというと解剖に近い