最強ローカルLLM実行環境としてのEmacs

みなさん、ローカルLLMで遊んでいますか？ 昨年末に、Ollamaが登場してから誰でも簡単にローカルLLMで遊べる時代がやってきました。そこで、僕もローカルLLMでどんなことができるんだろうと思って触りはじめたのですが、ローカルLLMを最大限に活用するためには、まずはどうやったらEmacsからローカルLLMを使えるようになるのかと考えるのはあまりにも自然な流れでした。 この記事では、ローカルLLMに関する基本的な知識から、EmacsからローカルLLMを扱う方法までを解説していきたいと思います。 ローカルLLMの基礎知識 # ローカルLLMとは、LLM（大規模言語モデル）をローカル環境、つまり自分のパソコンで扱えるようにしたモデルです。Facebookが開発しているLlamaが業界のトップランナーで、それをベースにしたモデルを色々な組織（中には個人もいるのかも）が開発しています。 そのLla

[zgmf-x20a]

私はRからollamaにアクセスしてるけど、Emacs使いなのでこれも歓迎。

[crexist]

“まずはどうやったらEmacsからローカルLLMを使えるようになるのかと考えるのはあまりにも自然な流れでした” 🤔

[shoronpoo]

できた。良い記事だ。自分の環境ではcodestralは結構遅かった

[Windymelt]

個人的にはEmacsにWASMエンジンが載ってスクリプトが高速に動くようになってほしいと思ってる。現行のEmacs Lispは遅すぎて・・・(完全に脱線)

[zonu_exe]

EmacsはMITのAI研究所生まれの最新AIツールです！ (ぐるぐる目)

[misshiki]

“Ellamaは、執筆時点で僕が知るかぎりもっとも簡単にEmacs上でLLMを使えるパッケージです。”

[zetta1985]

"先月、エンジニアの楽園 vim-jpラジオという本格的ラジオ番組を作成しました。タイトルにVimが含まれていますが、半分はEmacsなので、実質Emacsラジオ"

[barlog]

> 古き良き属人的なエコシステム Ellamaさいこう！

[UhoNiceGuy]

これは凄い！

[ryoppippi]

emacs夏フェスの運営はバリバリ２０代だぞ、@ttanimichi

[ryouchi]

はい、ここ、笑うところですよ。　“まずはどうやったらEmacsからローカルLLMを使えるようになるのかと考えるのはあまりにも自然な流れでした。”

[ttanimichi]

ここまで10代、20代のブコメなし

[Nyoho]

Emacs Lispが遅い件でしたらgcc jitでネイティブコンパイルするとかなり高速になります。> ブコメの方

[dp212]

私の知ってるemacsははるか昔のw3mで止まってたが、まだ進化してたのか…

[tohokuaiki]

また emacsの寿命が延命してしまうのか…

[KoshianX]

まさか Emacs から実行できるようになるとは。メモリガン積みした APU でどこまで動くかやってみたくなるなあ

[yarumato]

“Facebookが開発しているローカルLLM、Llamaを、llama.cppで動かす。これが読めるGGUFフォーマットのモデルは、LLM界のGitHubみたいなHugging Faceで多数公開。Ollamaは、DockerイメージをpullするようにLLMを自動的にDL、実行してくれる”

[nabinno]

面白そう。個人的にはaiderとEmacsの組み合わせも気になっている。

[versatile]

素晴らしい記事じゃないか！

[katsyoshi]

benri