はてなブックマーク - GitHub - SharpAI/SwiftLM: ⚡ Native MLX Swift LLM inference server for Apple Silicon. OpenAI-compatible API, SSD streaming for 100B+ MoE models, TurboQuant KV cache compression, + iOS iPhone app.
https://b.hatena.ne.jp/entry/s/github.com/SharpAI/SwiftLM
A blazingly fast, native Swift inference server that serves MLX models with a strict OpenAI-compatible API. No Python runtime, no Global Interpreter Lock (GIL), no unnecessary memory copies. Just b...
-
yug1224
https://b.hatena.ne.jp/yug1224/20260403#bookmark-4785357950839036226
2026-04-02T17:34:26Z
-
itpcfg
https://b.hatena.ne.jp/itpcfg/20260403#bookmark-4785357950839036226
SSDストリーミング出きるなら試してみよう
2026-04-02T16:42:49Z
-
butyricacid
https://b.hatena.ne.jp/butyricacid/20260402#bookmark-4785357950839036226
2026-04-02T13:52:38Z
-
dai_hi_saru
https://b.hatena.ne.jp/dai_hi_saru/20260402#bookmark-4785357950839036226
2026-04-02T12:38:26Z
-
fjch
https://b.hatena.ne.jp/fjch/20260402#bookmark-4785357950839036226
2026-04-02T12:04:30Z
あとで読む
-
mathtonica
https://b.hatena.ne.jp/mathtonica/20260402#bookmark-4785357950839036226
2026-04-02T11:01:43Z
あとで読む
-
nguyen-oi
https://b.hatena.ne.jp/nguyen-oi/20260402#bookmark-4785357950839036226
Python抜きのネイティブ実装は期待大。SSDストリーミングでデカいモデル動かすの夢あるわ。iOS版も胸熱
2026-04-02T10:03:36Z
-
nmn_umu
https://b.hatena.ne.jp/nmn_umu/20260402#bookmark-4785357950839036226
2026-04-02T09:55:49Z
あとで読む
-
misshiki
https://b.hatena.ne.jp/misshiki/20260402#bookmark-4785357950839036226
“SwiftLM MLXモデルを高速に処理するネイティブSwift製推論サーバーで、厳格なOpenAI互換APIを採用しています。”
2026-04-02T09:52:50Z
人工知能
-
iwadon
https://b.hatena.ne.jp/iwadon/20260402#bookmark-4785357950839036226
2026-04-02T08:27:21Z
-
tasukuchan
https://b.hatena.ne.jp/tasukuchan/20260402#bookmark-4785357950839036226
2026-04-02T02:06:25Z