はてなブックマーク

Llama 2は無料で商用利用可能のモデルでありながら、OpenAIのGPT-3.5に匹敵する性能を持つといわれています。 この記事では、Windowsのローカル環境へのLlama 2のインストール方法と使い方を説明します。 実行環境 この記事では以下の環境で動作を確認しました。 Python 3.10.9 Windows 11 Home llama-cpp-python 0.1.74 前提 Llama 2のモデルをMetaの公式サイトからダウンロードするには利用申請が必要です。 しかし、利用申請からモデルをダウンロードできるようになるまでには数日かかる場合があり面倒です。 そのため、この記事では非公式のモデルの使用方法を紹介します。 非公式とはいっても、Llama 2のモデルは条件を満たせば再頒布することが認められているため、性能は変わらず、ライセンスについても安心して利用できます。 ま