LM Studio を使ってローカルでLLMを実行する方法 - Insight Edge Tech Blog

こんにちは、Insight Edgeでリードデータサイエンティストを務めているヒメネス（Jiménez）です！前回の投稿から丸1年経ちましたが、改めて皆さんと知識共有できればと思います。今回は、話題のOpen Source LLM（Llama, Mistral, DeepSeek等）をローカルで実行する方法を紹介します。 目次 LM Studioの紹介 LLMをローカルで実行 準備 Pythonプログラムから実行 単体実行 OpenAIを通した実行 活用例：討論する哲学者 哲学者の定義 討論内容の定義 討論の実施 討論の要約 まとめ LM Studioの紹介 LM Studioは、ローカル環境で大規模言語モデル（LLM）を簡単に実行できるプラットフォームです。GUIベースで操作できるため、エンジニアだけでなく、非エンジニアでも手軽に試すことができます。 【特徴】 直感的なUI：モデルの管理

[golden_modeler_man]

ローカルLLMエアプなので使っていきたい

[kenzy_n]

ローカル環境にLLMがやって来た。

[misshiki]

“LM Studioは、ローカルで大規模言語モデルを手軽に試せる強力なツールです。ローカルだからこそ複数のエージェントを定義でき、対話型のシミュレーションにも応用できます。”

[hatebu_ai]

「Llama-3-ELYZA-JP-8B-GGUF」さんは、「えっちなのはいけないと思います!」のまほろさんガードレールつきなので念の為。

[toaruR]

少なくともわいの環境ではollamaより早い

[l_etranger]

ヤァヤァヤァ。ローカルLLM、一通り試しまくってみたけど、マシンスペック的にサチってしまった。VRAMがもっとでかいGPUを導入したいがタイミングが悪い、、、