【Ollama】自宅サーバーでかんたんにローカルLLMを動かす方法*

こんにちは、1日16時間以上はAIを触っている株式会社FP16の二宮です。 （FP16だけに...?笑） 「OpenAIやMicrosoftにずっとお金を払っていたくない！」 「自分たちで管理できる場所で実行したい！」 と思うことはありませんか？ 今回はそんな方へ向けての記事です。 Ollamaとは？ 今回はOllamaというこれからローカルでLLMを動かすなら必ず使うべきツールについて紹介します。 Ollamaは、LLama2やLLava、vicunaやPhiなどのオープンに公開されているモデルを手元のPCやサーバーで動かすことの出来るツールです。 LinuxとmacOSに対応しており、WindowsでもWSLを使うことで動かすことが出来ます。（Windowsも今後対応予定） OllamaはCLI又はAPIで使うことができ、そのAPIを使ってオープンソースでOllama WebUIも開発