ローカル環境でQwen3-Omniを動かす

はじめに Qwen3-Omni-30B-A3B-InstructがQwenよりリリースされた。 手元のマシンを使ってローカル環境でも動かせることがわかったので、備忘録的に記事にまとめる。 環境 Mac Studio EVO-X2 導入手順：Mac 執筆時点でまだggufへの変換ができなかったため、transformersを使って推論をする。使用した感じ、おそらくメモリは128GBないと厳しい。 環境構築 git, uvは導入済みとする。 $ git clone https://github.com/QwenLM/Qwen3-Omni.git $ cd Qwen3-Omni $ uv init --python 3.12 $ uv venv $ uv pip install gradio accelerate torch torchvision soundfile qwen-omni-uti

[misshiki]

“生成される音声は日本語でもかなり流暢に発音できている”