タグ

ブックマーク / ai-wonderland.com (1)

  • MetaのLLM【Llama2】の使い方(CPUで7Bを動かす簡単手順)  - AIワンダーランド

    更新日:2023年7月24日 概要 「13B」も動きました! Metaがオープンソースとして7月18日に公開した大規模言語モデル(LLM)【Llama-2】をCPUだけで動かす手順を簡単にまとめました。 ※CPUメモリ10GB以上が推奨。13Bは16GB以上推奨。 ※Macbook Airメモリ8GB(i5 1.6GHz)で起動、生成確認できました。ただし20分かかりました!笑 10GB以上ないと厳しいようです。 手順通り進めば簡単にChatGPTのような生成AIをローカル環境で利用できます!! そして・・・ 商用利用可能!! なんと太っ腹 応用すれば個人開発して様々なアプリに搭載して遊んだり、サービス展開できるのではないでしょうか。 わくわくしますね~ 概要 環境 手順 1.modelのダウンロード 2.ライブラリのインストール 3.スクリプト作成 4.生成実行 5.結果 13Bモデルを

    MetaのLLM【Llama2】の使い方(CPUで7Bを動かす簡単手順)  - AIワンダーランド
  • 1