はてなブックマーク

なぜOllama? これまでopenaiのモデルを使ってきましたが、openaiは有料です。 一言二言のやり取りや短いテキストの処理だとそれほど費用はかからないのですが、大量の資料を読み解くとなるととんでもない金額となってしまいます。 Meta社が出しているllamaというモデルはオープンソースのため基本的に無料です。 またopenAIを動かすのは基本サーバーサイドで、これまたサーバー運用にお金がかかるのですが、Ollamaを使えばローカルで動かせるためサーバー代もかかりません。 もちろんgpt-4と比べれば性能的には劣るのですが、費用を少しでも節約するのであればllamaという無料のモデルを使い、動作環境もollamaを使ってローカルとすることで無料で動かしましょう Ollamaのインストール 以下のサイトからインストール コマンドを実行してインストールしましょう ちなみにストレージは1