中国のAIエージェントQwen Codeで、Ryzen AI MaxのローカルLLM環境を構築する 【ニコ技深圳フィールドノート】｜TAKASU Masakazu

前回は、Ryzen AI Max+ 395、メモリ128GBのWindows PCを、深圳オフィスのローカルAI端末として使う方針を検討した。 今回は実際に、中国国内からVPNなしで利用できるQwen Codeを構築エージェントとして使い、Windowsの監査、モデル取得、Ollamaへの登録、GPU動作確認、バックエンド比較まで進めた。 単にQwenを動かしたという話ではない。今回のポイントは、ローカルAI環境そのものを、中国のクラウドAIエージェントに構築させたことにある。 なぜQwen Codeを使ったのかCodexやClaude Codeも強力だが、中国国内のPCで常用する場合、接続環境が不安定になりやすい。 Qwen CodeはAlibaba ModelStudioに直接接続でき、中国国内からVPNなしで利用できる。ターミナル型のAIエージェントなので、質問に答えるだけでなく、ロ

[PerolineLuv]

オープンモデルによるローカルチャットで数十tok/secを出せても、エージェントで使うとガチ遅なので、そこは過度の期待をせず使うと良い。現状、商用課金モデルの代わりにはならないが、ローカルのメリットはある。

[takasumasakazu]

CodexやClaude Codeも強力だが、中国国内のPCで常用する場合、接続環境が不安定になりやすい。 Qwen CodeはAlibaba ModelStudioに直接接続でき、中国国内からVPNなしで利用できる。

[soulfulmiddleagedman]

ローカルLLMはやつまてる

[naozane2]

Ryzen AI Max+ 395、メモリ128GB／ Qwen3-32B Q4_K_MをRadeon 8060S上で100% GPU動作させ、Ollama ROCmで10.01 tok/s、llama.cpp Vulkanで11.41 tok/sを確認／MTPなら20tpsくらい出るかも

[leiopathes]

即応性のとこだよなあ。せっかくメモリたくさんあっても転送速度の所がネックになるのは歯痒い。