タグ

ブックマーク / zenn.dev/muo (1)

  • whisper.cppがいつのまにかmacOS用文字起こしの決定版になっていた

    whisper.cppの進化が止まらない OpenAIWhisperオープンソース公開は文字起こし界隈に衝撃を与えました whisper.cppはWhisperのリリース後早い段階で公開された派生物で、非GPU環境においてそれなりのメモリ消費量・速度で動作する特徴がありましたが、そのリリースから1年のうちに実はwhisper.cppはかなりのスピードで進化しており当時とはもはや別物になっています とくにApple Silicon Mac / macOS上での動作速度がこの1年間で大きく向上しました 現代のコンピューター上でTransformer系のような大規模計算をする場合、CPUによる汎用演算にとどまらず搭載された各種アクセラレータをいかに使い倒せるかが重要で、whisper.cppはその名前からCPU側へ偏った実装という印象を(なぜか)受けますが ArmのNEONやIntelのA

    whisper.cppがいつのまにかmacOS用文字起こしの決定版になっていた
    shodai
    shodai 2024/05/03
    “whisper.cppの出始めの頃はM1 Macだとギリギリsmallモデルをリアルタイム処理できるぐらいでしたがv1.5.1時点では内蔵GPUを効果的に利用できてlargeモデルすら余裕を持ってリアルタイム処理できます”
  • 1