llama2のセットアップメモ (ダウンロードと推論)｜Kan Hatakeyama
話題のモデルのセットアップ Llama2とは商用利用が可能(諸説あり)で､GPT3並の性能を持つ､オープンソースモデルの本命です(2023/7/19時点) 利用方法いくつかあります 手段1 Metaの公式モデルを使う 登録必要 あまり使いやすくない印象です 13b以上は､GPU並列利用が基本(?) 手段2 Hugging faceの公式連携モデルを使う 登録必要 便利です 手段3 野良モデルを使う 登録不要 これが一番簡単です 手段1 Metaの公式モデルを使う利用申請(必須)やや特殊なライセンス形態なので､Metaに申請する必要があります｡ 申請には1-2日ほどかかるようです｡ → 5分で返事がきました｡ モデルのダウンロード ※注意 メールにurlが載ってますが､クリックしてもダウンロードできません(access deniedとなるだけです)｡ 指示のとおりに､ダウンロードする必要があ
