GitHub - ggerganov/whisper.cpp: Port of OpenAI's Whisper model in C/C++

Stable: v1.6.2 / Roadmap | F.A.Q. High-performance inference of OpenAI's Whisper automatic speech recognition (ASR) model: Plain C/C++ implementation without dependencies Apple Silicon first-class citizen - optimized via ARM NEON, Accelerate framework, Metal and Core ML AVX intrinsics support for x86 architectures VSX intrinsics support for POWER architectures Mixed F16 / F32 precision 4-bit and 5

[stealthinu]

whisperをGPUや他のライブラリ依存なくC++で動かしてしまえる。しかも省メモリで。ggmlという自前のテンソル演算を使ってる。

[misshiki]

“OpenAI の Whisper自動音声認識 (ASR) モデルの高性能推論”

[yam21]

文字起こし

[uzulla]

“automatic speech recognition” つまりは文字起こし

[efcl]

WhisperのC++実装

[masterq]

SIMDでも頑張ればGPGPU並のパフォーマンスが出るということ？ggml.cとwhisper.cppを読んでみること