“CTranslate2はTransformerモデルをCPUやGPUで効率的に動かすライブラリです。” インストールして動かすところまで説明。

misshikimisshiki のブックマーク 2023/06/16 17:16

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

CTranslate2でRinnaモデルをコンバートしてCPUや8GB GPUで動くようにする - きしだのHatena

    CTranslate2はTransformerモデルをCPUGPUで効率的に動かすライブラリです。 https://github.com/OpenNMT/CTranslate2 CTranslate2の機能のひとつにモデルの量子化があります。INT8で量子化すると雑に必要メモリ...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう