｢MPCサーバー｣でローカルLLMを“無料AIエージェント”に変えてみる
｢MPCサーバー｣でローカルLLMを“無料AIエージェント”に変えてみる2026.05.05 22:0029,059 かみやまたくみ ローカルLLMアプリ LM StudioでMCPを読み込み、ローカルのファイルを操作させているところ。右側の設定画面でインストールやオンオフを行う Image: かみやまたくみ 無料ダウンロードして使えるAI｢ローカルLLM｣が2026年に入ってものすごい勢いで高性能になっています。 自分はAIコストを圧縮できないかなと思っていろいろと試しているのですが、最近よく使うようになった機能があります。 それが｢MCPサーバー｣。さまざまな情報を取得・生成できるようになるAI用の拡張機能です。昨今のローカルLLMはそれらを上手に使いこなせるようになっているのです。 まだ導入や設定の敷居が高く、リスクもあるので万人におすすめはできないのですが、その辺り理解して使えるの
けっこう実用的。｢OpenCode｣×ローカルLLMで“無料Claude Code”してみた
けっこう実用的。｢OpenCode｣×ローカルLLMで“無料Claude Code”してみた2026.05.02 13:0045,597 かみやまたくみ オープンソースのAIコーディングエージェント｢OpenCode｣をローカルLLM｢Gemma-4-26b-a4b｣で動かして簡単なゲームを作っているところ Image: かみやまたくみ AIでいろんなことができる反面、料金もけっこうかかるように。 個人的に最近すごーく気になっています。新しいAIアプリやサービスを導入したくても、コストが厳しいことが多い。 気づいたら｢安く使えて実用性もあるAIやアプリはないかな？｣と日々探すようになっていました。 そんな中、なかなかいい組み合わせを見つけました。 オープンソースのAIコーディングエージェント｢OpenCode｣をGoogleの最新ローカルLLM｢Gemma 4｣と組み合わせて使ってみたら、
【Google推奨】Geminiから満足のいく回答を引き出すための「構造化プロンプト」実践ガイド
Geminiから100点の回答を引き出す「構造化プロンプト」実践ガイド 生成AIとの対話で「期待通りの回答が得られない」原因の多くは指示の曖昧さにある。本Tech TIPSでは、Google Geminiから的確な回答を引き出すためのフレームワーク「RSFC（役割・状況・形式・条件）」を解説する。基本構成に加え、思考プロセスの指定や自己チェックなど、実務ですぐに役立つ実践的なテクニックを紹介しよう。 最近では、さまざまな仕事や検索などに生成AI（人工知能）を利用することが当たり前になりつつある。 しかし、AIとの対話において「期待した回答がなかなか返ってこない」という不満も少なくない。こうした悩みの大半は、指示（プロンプト）の曖昧さに起因する。ただ、指示を明確にするというのは実は簡単ではない。 そこで本Tech TIPSでは、「構造化プロンプト」と呼ばれる指示を明確にする手法を紹介し、今日
「君のPC、どのローカルAIを動かせる？」がわかるWebサイト「CanIRun.ai」が便利。訪問するだけで自動判定（生成AIクローズアップ） | テクノエッジ TechnoEdge
1週間の気になる生成AI技術・研究をいくつかピックアップして解説する連載「生成AIウィークリー」から、特に興味深いAI技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、サイトに訪問するだけで自分のPCでどのAIモデルがローカル動作するかを判定してくれるサイト「CanIRun.ai」（Can your machine run AI models?）を取り上げます。 ▲Apple M5 Pro 24GBでのcanirun.aiトップ画面 ▲さまざまなデバイスで試せるため、デバイス購入前に確認することもできる 開発者midudev氏が、手元のマシンでどのAIモデルが実際に動かせるのかを一瞬で判定できるWebサービス「CanIRun.ai」を公開しました。インストールや登録は一切不要、サイトにアクセスするだけでGPUやメモリを自動検出して、各モデルに対する動作判定を6段階で色分け
自分のPCで簡単にAIを動かせる「Ollama」には多数の問題点があり、llama.cppを使った方が良いという意見
ソフトウェアエンジニアのzetaphor氏が、ローカルでAIを動かせるツール「Ollama」に対し、開発姿勢や運営方針についての批判をブログで展開しています。 Friends Don't Let Friends Use Ollama | Sleeping Robots https://sleepingrobots.com/dreams/stop-using-ollama/ Ollamaは多数のAIをコマンド一つで簡単に実行できるツールです。実際に使用してみるとどんな感じなのかは下記の記事で確認できます。 OpenAIのオープンウェイトモデル「gpt-oss」はOllamaを使って個人用PCで簡単に使用可能 - GIGAZINE Ollamaの登場より先に、2023年当時最高クラスの性能を持っていた大規模言語モデル「LLaMA」を比較的低スペックのデバイスで動作させる技術として「llama.
日本発、LLMの推論を「桁違い」に効率化する新アーキテクチャ「PHOTON」の論文が面白かったのでまとめてみた - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに 富士通、理化学研究所 AIP、東京科学大学、東海大学の研究チームが arXiv で公開した論文 「PHOTON: Hierarchical Autoregressive Modeling for Lightspeed and Memory-Efficient Language Generation」（Yuma Ichikawa, Naoya Takagi, Takumi Nakagawa, Yuzi Kanazawa, Akira Sakai）で提案された新アーキテクチャ PHOTON が、興味深かったのでまとめてみました。
突如実用化した1ビットLLM Bonsai-8B もう推論にGPUはほぼ不要になる。その先に何が起きるか
清水 亮 ryo_shimizu 新潟県長岡市生まれ。1990年代よりプログラマーとしてゲーム業界、モバイル業界などで数社の立ち上げに関わる。現在も現役のプログラマーとして日夜AI開発に情熱を捧げている。 ソフトウェアの革命は、突然やってくる。 ように見える。 カリフォルニア工科大学(以下カルテック)のババク・ハッシビ教授が率いる研究チームPrismが発表したBonsai-8Bは、驚異的と言って良い性能を持つ大規模言語モデル(LLM)である。 通常のベンチマークは、ベンチマークに使うデータそのものをモデルが学習してしまう場合があるため、筆者が独自に開発した非公開の日本語要約能力ベンチマークによると、Bonsai-8Bの性能は驚異的だ。 この表では、精度(ROUGE-L)、推論速度(speed)、サイズ(Size)、品質(Tier)の4点から様々なLLMの日本語性能を比較している。 このベン
約12兆トークンの良質なコーパスで学習した新たな国産LLM「LLM-jp-4 8Bモデル」「LLM-jp-4 32B-A3Bモデル」をオープンソースライセンスで公開～一部ベンチマークでGPT-4oやQwen3-8Bを上回る性能を達成～ - 国立情報学研究所 / National Institute of Informatics
2026/04/03 約12兆トークンの良質なコーパスで学習した新たな国産LLM「LLM-jp-4 8Bモデル」「LLM-jp-4 32B-A3Bモデル」をオープンソースライセンスで公開 ～一部ベンチマークでGPT-4oやQwen3-8Bを上回る性能を達成～ 大学共同利用機関法人 情報・システム研究機構 国立情報学研究所 (NIIエヌアイアイ、所長：黒橋くろはし 禎夫さだお、東京都千代田区) 大規模言語モデル研究開発センター（LLMC）は、同センターが主宰するLLM研究開発コミュニティ「LLM-jp」の活動の中で大規模言語モデル（LLM）のフルスクラッチ学習を実施し、約86億パラメータ(*1)の「LLM-jp-4 8Bモデル」と約320億パラメータのMoEモデル(*2)「LLM-jp-4 32B-A3Bモデル」をオープンソースライセンスで一般公開しました。公開モデルの学習では、オープンソー
ローカルAIを活用したら、大量のサブスクが解約できたぞ！ | ライフハッカー・ジャパン
日頃から、検索や要約といった用途でAIの契約をしている人も多いのでは？ これ、ローカルLLMさえあれば、より簡単に、より効率的に作業することができるんです。 ローカルAIにファイルを読み込ませる仕組みローカルLLMに「ファイルへのアクセス権を与える」のは、ハードルが高そうに聞こえるかもしれませんが、実は思っているよりも簡単です。 私はRAG（Retrieval-Augmented Generation：検索拡張生成）と呼ばれるアプローチを使用しました。 ドキュメント全体をAIのウィンドウにコピペするのは時間がかかり、トークンのコストもかさむためすぐに利用制限に達してしまいます。その代わりにRAGを用いることで、ファイルを小さな塊に分割して、手元のローカルデータベースに保存可能な「ベクトル埋め込み（AI向けのデータ形式）」に変換することが可能です。 AIに質問すると、システムはもっとも関連性
国産LLMは作れるのか？ - RakutenAI 3.0の炎上から考える
はじめに 2026年03月17日、楽天グループが「国内最大規模」と謳う大規模言語モデル（以下、LLM）「Rakuten AI 3.0」を発表しました。約7000億パラメータのMoE（Mixture of Experts）モデルで、日本語ベンチマークではGPT-4oを上回るスコアを記録したといいます。 しかし公開直後、Hugging Face上のconfig.jsonに"model_type: "deepseek_v3"という記述が見つかり、ベースモデルがDeepSeek V3であることが判明。さらに初回公開時にはDeepSeek由来のMITライセンスファイルが含まれておらず、炎上後に「NOTICE」ファイルとして追加される経緯もありました。 GENIACプロジェクト（経済産業省・NEDO）の補助を受けた「国産AI」がDeepSeek V3ベースだったこと、そしてその出自が積極的に明示されて
「あなたは専門家です」プロンプトの罠：役割を与えることが人工知能の知識精度を破壊する | XenoSpectrum
「あなたは〇〇の専門家です」という一文から大規模言語モデルへの指示を書き始めるユーザーは非常に多い。この手法は長らく、人工知能から高品質で精緻な回答を引き出すための代表的なテクニックとして、数多くのガイドブックで推奨されてきた。専門家としての役割を与えることで、出力のトーンが劇的に洗練されるという感覚は、生成AIを日常的に利用する多くの人々が共有しているはずだ。 しかし、南カリフォルニア大学の研究チームが発表した最新の論文は、この広く信じられてきた常識に対して極めて鋭いメスを入れている。人工知能に専門家として振る舞うよう指示すると、モデルが元々保持している知識の正確性が著しく損なわれる場合があるというのだ。 言語モデルの脳内で起きている知識と演技の衝突 なぜ専門家という設定が人工知能の精度を落とすのかを理解するためには、大規模言語モデルがどのように知識を獲得し、どのようにユーザーの指示に従
Google、LLMのメモリ消費を6分の1に削減する新技術「TurboQuant」発表
米Googleは3月24日（現地時間）、新たな圧縮手法「TurboQuant」に関する研究により、LLMを実行するために必要なメモリ量を6分の1に削減できる可能性があると発表した。 この技術は、AIモデルが情報を処理する際に用いる高次元ベクトルデータのサイズを極限まで圧縮し、大規模AIや検索エンジンにおけるメモリのボトルネックを解消するものという。特に、LLMの推論時に頻繁に使用される情報を一時保存する「キーバリュー（KV）キャッシュ」の圧縮において、モデルの精度やパフォーマンスを犠牲にすることなく大幅な効率化を実現するとしている。 TurboQuantは、データの構造を単純化して大部分の圧縮を行う「PolarQuant」と、そこから生じた微小な誤差を1ビットのデータで数学的に補正する「QJL」という2つの手法を効果的に組み合わせている。これにより、事前の追加学習やファインチューニングを行
【2026年最新版】ローカルLLM（Ollama）で完全オフラインAI開発環境を作る - Qiita
はじめに こんばんは、mirukyです。 今回は、ローカルLLMをテーマに、完全オフラインで動作するAI開発環境をゼロから構築していきます。 ChatGPTやClaude、Geminiなどのクラウド型AIは非常に便利ですが、こんな課題を感じたことはありませんか？ ソースコードや社内情報をクラウドに送りたくない APIの従量課金が地味に痛い（月に数万円〜） ネットワーク障害でAIが使えなくなる レート制限に引っかかって作業が中断する レスポンス待ちで集中力が途切れる これらの課題を一気に解決するのが、ローカルLLMです。このアプローチでは、手元のPC上でAIモデルを直接実行するため、外部への通信が一切不要です。 本記事では、Ollamaを中心に、VS Codeでのコード補完、ターミナルでのAIペアプログラミング、ChatGPTライクなWebUI、ローカルRAGまで、実用的な開発環境をフルスタ
9Bなのに120B超え!? Qwen3.5-9BがローカルAIの常識を変えた (1/5)
2026年2月から3月にかけ、Alibaba傘下のQwenチームがLLM「Qwen3.5」シリーズを順次公開した。2月16日にフラッグシップのQwen3.5-397B-A17B（397Bパラメータ、うちアクティブ17B）を皮切りに、2月24日にMediumシリーズ（27B dense、35B-A3B、122B-A10B）、3月2日にSmallシリーズ（0.8B、2B、4B、9B）と段階的に展開。全モデルがApache 2.0ライセンスで、商用利用も無償で可能だ。 今回フォーカスするのは、このSmallシリーズの頂点に立つ9Bモデルだ。「9Bごときで何ができる」と思うかもしれないが、ベンチマークでは120Bを超える既存モデルを複数の指標で上回っている。なぜ9Bなのにそれほど強いのだろうか。鍵はアーキテクチャの刷新にある。 Qwen3.5の技術的な新しさ LLMのアーキテクチャといえば、長らく
LLM Architecture Gallery
Last updated: April 10, 2026 (view changes) RSS If you do not see the latest changes, try a hard reload: Cmd+Shift+R on Mac or Ctrl+F5 on Windows. This page collects architecture figures and fact sheets from posts on my blog, plus selected release posts or technical reports when a new architecture has not been covered there yet. Click a figure to enlarge it, or use the model title to jump to the s
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
不動産会社から出される契約書は、すべて写真撮ってGeminiに投げて、「私は契約当事者（甲）です。私にとって不利になる状況を全て教えてください。」で大体解決します。売買契約書、管理委託契約書、賃貸借契約書、全部に使える。
Google、LLM実行時の消費メモリを6分の1に削減する「TurboQuant」
【緊急】月間9500万DLのLiteLLMが乗っ取られた。インストールしただけでSSH鍵・AWS認証・仮想通貨が全部盗まれる - Qiita
ナレッジグラフとは何か：知識をつながりで表現する｜LLMをもっと賢くする：ナレッジグラフ実践入門
LLMをもっと賢くする：ナレッジグラフ実践入門