やっぱあれですな。 一度動いちゃうと後はもう雪崩のようですな。 そしてこっち側も新鮮味を感じなくなってしまうというか。 んで、ものすごくアッサリとうちのMacBookProで動きました。 量子化済みのモデルをダウンロードしてスクリプト動かすだけ! 工夫なし! Windowsでもいけると書いてある。しかもめちゃくちゃ高速 % ./gpt4all-lora-quantized-OSX-m1 main: seed = 1680064969 llama_model_load: loading model from 'gpt4all-lora-quantized.bin' - please wait ... llama_model_load: failed to open 'gpt4all-lora-quantized.bin' main: failed to load model from 'gp
![ご家庭のパソコンでLLMが動く!・・・またかよ|shi3z](https://cdn-ak-scissors.b.st-hatena.com/image/square/21a0166380652f78a92ec2a22908df459e45f7ce/height=288;version=1;width=512/https%3A%2F%2Fassets.st-note.com%2Fproduction%2Fuploads%2Fimages%2F101448408%2Frectangle_large_type_2_9de1b4f60702e0149dbdf9716553d7f0.png%3Ffit%3Dbounds%26quality%3D85%26width%3D1280)