構築の手順 基本的にはAutoGPTQ-APIのREADME.mdに書かれている通りに、各ライブラリなどをインストールしていけば問題ありません。 今回はWindowsでの構築手順を説明しますが、LinuxでもPython、C++コンパイラ、CUDA toolkitのインストール以外はほとんど同じ手順となります。 ※MacではGPTQ版ではなく、GGML(GGUF)版のモデルで同様のことをおこなえば実現可能だと思いますが、この記事ではMac対応については触れていません。 Pythonのインストール WindowsにはデフォルトでPythonがインストールされていません。まずはPythonを使えるようにしましょう。 今回はwingetでインストールします。wingetとは、Linuxでいうaptやdnf(yum)のようにパッケージを管理するMicrosoft謹製のパッケージマネージャです。PA