わずか8GBのメモリ。MacBook NeoでエージェンティックAIを開発したら、絵を描いて曲も作れるように。MVまで全てローカルで完結できた（CloseBox） | テクノエッジ TechnoEdge

最初は128GBのメモリを積んだMacBook Proで、次はBlackwell世代のGPUを積んだ、同じく128GBのメモリ搭載DGX Spark互換機（ASUS GX10）。ここで開発に使っているClaude CodeのRate Limitが来てしまい力尽きて終わりました。 が、その後もエージェンティックAIの探究は続けていて、もっとコンパクトなマシンでどうなるかに挑戦。 清水亮さん開発のスクリプト「Suzaku」を使うと、ollamaほか必要ツールをまとめてインストールして設定し、LLMチャット環境が手軽に構築されるのですが、そこで使っているLLMはgpt-oss-20b。これを使うためには10数GBのメモリが必要となります。16GBメモリでも不足で、24GBくらいは必要みたい。 じゃあ、別のLLMを使えば裾野は広がるはず。 もっとコンパクトなLLMでエージェンティックAIに向いてい

[netafull]

“小回りのきくエージェンティックAIは、ハイスペックマシン以外でもできるのですね。楽しくなってきました。”

[quick_past]

かなりの妥協と手間を許せるなら。だと思うけど、一応ここまでは動くというのはすごい。システムが消費してる分のメモリは使えないんだから、実際にGPUが使えるメモリはもっと少ないはず。

[fluoride]

はんぺんiBookすき

[otihateten3510]

せめて12GBにしてくれ

[nguyen-oi]

8GBでAI動かすとか執念を感じるわ。Appleのメモリ商法に抗う姿勢は嫌いじゃない