タグ

2026年6月8日のブックマーク (1件)

  • スマホで動くAI、Gemma 4が量子化対応で1GB未満に。Googleが軽量モデル公開 - すまほん!!

    スマホで動くAIが1GB未満に。 Googleが、軽量AIモデル「Gemma 4」に量子化を前提にした訓練(モデルを軽量化する前提で学習させる手法)を施した新しいチェックポイントを公開しました。Android Authorityが伝えています。 最小構成のGemma 4 E2Bは、モバイル向けフォーマットでメモリ使用量を約1GBまで抑え、テキスト専用なら1GB未満で動かせるといいます。 カギになっているのがQAT(Quantization-Aware Training、量子化を見込んで学習する手法)です。一般的なPTQ(学習後に圧縮するやり方)はモデルが完成してから小さくするため品質が落ちがちですが、QATは訓練の段階から圧縮後の姿を想定しておくので劣化を抑えられます。Googleは「標準的なPTQと比べて全体の品質はむしろ高い」としています。 平たく言えば、引っ越しでスーツケースに荷物を

    スマホで動くAI、Gemma 4が量子化対応で1GB未満に。Googleが軽量モデル公開 - すまほん!!
    mistake
    mistake 2026/06/08
    「ローカルLLMをクラウドLLMに投げる前段階の下処理に利用しようとしている。匿名化、利用モデル判断、ノイズ除去。」