Llama3.2 をローカルで動かしてみる - Qiita

やりたいこと Meta 社から Llama3.2 が発表されました。軽量なモデルである Llama 3.2 1B および 3B とマルチモーダルモデルである Llama 3.2 11B および 90B です。 先日、OSS なモデルをローカルで動かす方法 (以下の記事) を試したので、今回の Llama3.2 も試してみようと思います。 どんなモデル？ 以下の記事によると、1B・3B はエッジやモバイルデバイス向けテキストモデル、11B・90B は小中規模のビジョンモデルだそう。 1B・3B 128K トークンのコンテキスト長をサポート 多言語テキスト生成とツール呼び出し機能に非常に優れている (らしい) 11B・90B マルチモーダルモデル Claude 3 Haiku などと比較して画像理解タスクで優れている (らしい) 動かす

[misshiki]

“docker exec -it ollama ollama run llama3.2”