更新日:2023年7月24日 概要 「13B」も動きました! Metaがオープンソースとして7月18日に公開した大規模言語モデル(LLM)【Llama-2】をCPUだけで動かす手順を簡単にまとめました。 ※CPUメモリ10GB以上が推奨。13Bは16GB以上推奨。 ※Macbook Airメモリ8GB(i5 1.6GHz)で起動、生成確認できました。ただし20分かかりました!笑 10GB以上ないと厳しいようです。 手順通り進めば簡単にChatGPTのような生成AIをローカル環境で利用できます!! そして・・・ 商用利用可能!! なんと太っ腹 応用すれば個人開発して様々なアプリに搭載して遊んだり、サービス展開できるのではないでしょうか。 わくわくしますね~ 概要 環境 手順 1.modelのダウンロード 2.ライブラリのインストール 3.スクリプト作成 4.生成実行 5.結果 13Bモデルを
![MetaのLLM【Llama2】の使い方(CPUで7Bを動かす簡単手順) - AIワンダーランド](https://cdn-ak-scissors.b.st-hatena.com/image/square/59d725ad26a285e41500d94e62b3750d4c0a7e37/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fa%2Fai-wonderland%2F20230722%2F20230722211330.png)