はてなブックマーク

更新日：2023年7月24日 概要 「13B」も動きました！ Metaがオープンソースとして7月18日に公開した大規模言語モデル（LLM）【Llama-2】をCPUだけで動かす手順を簡単にまとめました。 ※CPUメモリ10GB以上が推奨。13Bは16GB以上推奨。 ※Macbook Airメモリ8GB（i5 1.6GHz）で起動、生成確認できました。ただし20分かかりました！笑　10GB以上ないと厳しいようです。 手順通り進めば簡単にChatGPTのような生成AIをローカル環境で利用できます！！ そして・・・ 商用利用可能！！ なんと太っ腹 応用すれば個人開発して様々なアプリに搭載して遊んだり、サービス展開できるのではないでしょうか。 わくわくしますね～ 概要 環境 手順 １．modelのダウンロード ２．ライブラリのインストール ３．スクリプト作成 ４．生成実行 ５．結果 13Bモデルを