気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
8users
がブックマーク
0
0
GitHub - beamivalice/PonyExl3: Run Exl3 format LLM quant on Apple Silicon
8 users
github.com/beamivalice
github.com/beamivalice
記事へのコメント0件
- 注目コメント
- 新着コメント
新着コメントはまだありません。
このエントリーにコメントしてみましょう。
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
GitHub - beamivalice/PonyExl3: Run Exl3 format LLM quant on Apple Silicon
v0.2.0 - Update, Converter now landed but it's still in beta shape since I haven't tested the too... v0.2.0 - Update, Converter now landed but it's still in beta shape since I haven't tested the tool against a few supported models. But the results with Qwen and MiniCPM were good enough to justify a land. The quality is similar to what you expect from CUDA quantizer. EXL3 quantized LLM inference on Apple Silicon, built on MLX and mlx-lm. PonyExl3 ports the ExLlamaV3 EXL3 format to Metal: weights s
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
forbesjapan.com
togetter.com
www.logi-today.com
www.dailyshincho.jp
speakerdeck.com/bunnchinn3
gihyo.jp
www.itmedia.co.jp
tech.layerx.co.jp
pc.watch.impress.co.jp
www.itmedia.co.jp
github.blog
agilejourney.uzabase.com
levtech.jp
levtech.jp
www.softbank.jp
