こんにちは、1日16時間以上はAIを触っている株式会社FP16の二宮です。 (FP16だけに...?笑) 「OpenAIやMicrosoftにずっとお金を払っていたくない!」 「自分たちで管理できる場所で実行したい!」 と思うことはありませんか? 今回はそんな方へ向けての記事です。 Ollamaとは? 今回はOllamaというこれからローカルでLLMを動かすなら必ず使うべきツールについて紹介します。 Ollamaは、LLama2やLLava、vicunaやPhiなどのオープンに公開されているモデルを手元のPCやサーバーで動かすことの出来るツールです。 LinuxとmacOSに対応しており、WindowsでもWSLを使うことで動かすことが出来ます。(Windowsも今後対応予定) OllamaはCLI又はAPIで使うことができ、そのAPIを使ってオープンソースでOllama WebUIも開発