GitHub - antirez/ds4: DeepSeek 4 Flash local inference engine for Metal

DrawfStar 4 is a small native inference engine for DeepSeek V4 Flash. It is intentionally narrow: not a generic GGUF runner, not a wrapper around another runtime, and not a framework. The main path is a DeepSeek V4 Flash-specific Metal and CUDA graph executor with DS4-specific loading, prompt rendering, KV state, and server API glue. This project would not exist without llama.cpp and GGML, make su

[efcl]

Apple SiliconのMetalでDeepSeek V4 Flashモデルをローカル実行する推論エンジン。 DeepSeek V4 Flashに特化の設計で、KVキャッシュをディスクに永続化することで長コンテキストの推論をローカル環境で動かす。

[tnvusjgoohdbzj]

「DeepSeek V4 Flash 専用のローカル推論エンジン」で、Apple Silicon + Metal 向けに最適化された、かなりストイックな C 製ランタイム