自分のPCで簡単にAIを動かせる「Ollama」には多数の問題点があり、llama.cppを使った方が良いという意見
ソフトウェアエンジニアのzetaphor氏が、ローカルでAIを動かせるツール「Ollama」に対し、開発姿勢や運営方針についての批判をブログで展開しています。 Friends Don't Let Friends Use Ollama | Sleeping Robots https://sleepingrobots.com/dreams/stop-using-ollama/ Ollamaは多数のAIをコマンド一つで簡単に実行できるツールです。実際に使用してみるとどんな感じなのかは下記の記事で確認できます。 OpenAIのオープンウェイトモデル「gpt-oss」はOllamaを使って個人用PCで簡単に使用可能 - GIGAZINE Ollamaの登場より先に、2023年当時最高クラスの性能を持っていた大規模言語モデル「LLaMA」を比較的低スペックのデバイスで動作させる技術として「llama.
国産LLMは作れるのか？ - RakutenAI 3.0の炎上から考える
はじめに 2026年03月17日、楽天グループが「国内最大規模」と謳う大規模言語モデル（以下、LLM）「Rakuten AI 3.0」を発表しました。約7000億パラメータのMoE（Mixture of Experts）モデルで、日本語ベンチマークではGPT-4oを上回るスコアを記録したといいます。 しかし公開直後、Hugging Face上のconfig.jsonに"model_type: "deepseek_v3"という記述が見つかり、ベースモデルがDeepSeek V3であることが判明。さらに初回公開時にはDeepSeek由来のMITライセンスファイルが含まれておらず、炎上後に「NOTICE」ファイルとして追加される経緯もありました。 GENIACプロジェクト（経済産業省・NEDO）の補助を受けた「国産AI」がDeepSeek V3ベースだったこと、そしてその出自が積極的に明示されて
「あなたは専門家です」プロンプトの罠：役割を与えることが人工知能の知識精度を破壊する | XenoSpectrum
「あなたは〇〇の専門家です」という一文から大規模言語モデルへの指示を書き始めるユーザーは非常に多い。この手法は長らく、人工知能から高品質で精緻な回答を引き出すための代表的なテクニックとして、数多くのガイドブックで推奨されてきた。専門家としての役割を与えることで、出力のトーンが劇的に洗練されるという感覚は、生成AIを日常的に利用する多くの人々が共有しているはずだ。 しかし、南カリフォルニア大学の研究チームが発表した最新の論文は、この広く信じられてきた常識に対して極めて鋭いメスを入れている。人工知能に専門家として振る舞うよう指示すると、モデルが元々保持している知識の正確性が著しく損なわれる場合があるというのだ。 言語モデルの脳内で起きている知識と演技の衝突 なぜ専門家という設定が人工知能の精度を落とすのかを理解するためには、大規模言語モデルがどのように知識を獲得し、どのようにユーザーの指示に従
AI に指示するのではなく、まずは AI に質問させた方が捗る
はじめに 頭の中には手順や判断のポイントがあるのに、それを明文化出来ていない。 その結果、関係者間で前提が共有されないまま話が進み議論がすれ違ってしまう、ということがあると思います。 これは、暗黙知が言語化されていない状態です。 そしてこれは、 AI ≒ LLM を使う上でも同じ課題に直面します。 頭の中にある暗黙知を明文化しないと、 LLM から良い回答は得られません。 この記事で紹介するのは、そういった状態をプロンプトエンジニアリングの力を使って、解決する方法です。 結論 暗黙知の言語化には、"AI に答えさせる"のではなく、AI に質問してもらう（インタビュー型プロンプティング）のが有効です。 なぜなら、自分がまだ言語化できていない前提・判断基準・制約を、AI の質問であぶり出して メタ認知（自分の思考を一段上から見ること） を起こすことができるからです。 本題 なぜ「指示」より「質
「推論する生成AI」は事前学習されていない課題を正しく推論することができない（共変量シフトに弱い） - 渋谷駅前で働くデータサイエンティストのブログ
先日の記事で「CoTを用いて『推論』する生成AI」の「推論」能力の限界について、論文2点を挙げて論じたところ思いの外反響が大きくてちょっとびっくりしたのでした。 なのですが、最近になって同じテーマに対して「厳密に条件統制されたデータセットを用いてLLMを実際に構築した上で実験した」という論文が出てきたとのことで、ちょっと読んでみました。それがこちらです。 実のところ、読んでみたらかなり技巧的かつ綿密に設計された内容の論文で当初一読した範囲では理解し切れない感じがありました。なのですが、非常に興味深い内容だったのと、その検証手法が斬新だったということもあり、このブログでは珍しいことですが2回連続で論文紹介をしてみようと思います*1。なおいつもながらですが、記事中に理解不足や認識の誤りなどの箇所がありましたら何なりとご指摘くだされば幸いです。 巧みな実験設計：CoT推論に影響し得る「3つの次元
「LLMはコンテキストがすべて」かもしれない
コンテキストエンジニアリングについて LLM（大規模言語モデル）の分野で、最近「コンテキストエンジニアリング（Context Engineering）」という言葉が多く使われるようになりました。AIエージェントの文脈でも使われることが多く、自分の中でずっとモヤモヤしていたのですが、少し自分なりに整理してみたのでここに書いてみます。 半分以上お気持ちというかポエムや私見が混じっていますので、学術的な定義の厳密性より、自分が普段使っていて感じる実践目線での一つの考え方として捉えてもらえるとありがたいです。 「プロンプトエンジニアリング」から「コンテキストエンジニアリング」へ そもそも「コンテキストエンジニアリング」って何？「プロンプトエンジニアリング」と何が違うの？というところから始めたいと思います。 プロンプトエンジニアリングは、ものすごい単純にした図にすると以下になると思います。 プロンプ
AIエージェントのサービス構築を検討しているあなたへ
はじめに 本記事では、昨今話題の AI エージェントサービスをこれから作る方へ、AI エージェントシステムを作る上での抑えるべきポイントと実践的なハンズオンにて DeepDive していきたいと思います。 本記事は 2 部構成になっており、以下の構成です。 第 1 部: AI エージェント の基本概念とエージェントシステム構築のガイド 第 2 部: Azure AI Agent Service を使ったワークフロールーティングの実装 第１部では、OpenAI 社のa-practical-guide-to-building-agents を参考に、AI エージェントの基本概念とエージェントシステム構築のガイドを解説します。 第２部では、Anthropic のブログ記事 Building Effective Agents – Workflow Routing で紹介されている ワークフロールー
エディタ型からCLI型・自律型へと多様化するコーディングエージェント
We’re on a journey to advance and democratize artificial intelligence through open source and open science. 本記事では、現在のコーディングエージェントの自律性をSAEの自動運転レベルのアナロジーに当てはめます。巷で呼ばれている名称を参考に、「エディタ型」「CLI型」「自律型」という３つのタイプを示すキーワードを用意しました。 エディタ型（GitHub Copilot, Cursor）自動運転レベル： レベル2（部分自動化）開発者の関与： 常に監視し、いつでも介入可能。リアルタイムに差分確認・承認・修正動作環境： エディタ内重視する価値： 安全性 - 全ての変更を制御可能CLI型（Claude Code, Codex CLI）自動運転レベル： レベル3（条件付き自動化）開発者の関与：
サイバーエージェント社員の20%が使うAIプラットフォーム「Dify」、プロダクト主導で3,000時間/月削減する方法 | CyberAgent Developers Blog
透明性を高める公開ロードマップ 利用者との信頼構築のためにも、現在運営として何を考えているかわかるよう、機能ロードマップもSlackのリスト機能を活用して公開しています。 v0 (Vercel社が提供する生成AIによって画像・自然言語からUIコードを生成するツール)を使ったプロトタイプなどを使い、ここでやり取りすることにより、各部署/グループ会社のAI活用推進者とも連携をとりつつ、個々のステークホルダーとのやり取りが断片化しないように合意形成を進められます。 OpenView Partners （PLGの提唱企業）によるNotionなどの事例 継続的なカスタマイズ開発 私たちのプロジェクトでは、Difyをシングルテナントのまま、全ユーザーが自由な相手を選べるReBAC（関係ベースのアクセス制御）のアプリ共有機能を独自に実装しました。これにより、利用者ごとの組織・利用形態に合わせた柔軟にアプ
【2025年5月完全版】RAG の教科書
はじめに 昨今、AI の進化により、様々な分野での応用が進んでいます。特に、自然言語処理(NLP)の分野では、RAG( Retrieval-Augmented Generation)が注目されています。RAG は、情報検索と生成を組み合わせた手法であり、特に大規模言語モデル(LLM)と組み合わせることで、その性能を大幅に向上させることができます。 また、NativeRAG や GraphRAG, AgentRAG などさまざまな RAG のバリエーションが登場しており、これらは特定のユースケースやデータセットに対して最適化されています。 今回は、RAG の基本的な概念から、RAG のプロジェクトの進め方、精度向上の方法に至るまで詳しく解説します。 みなさんの GenAI Application の開発に役立てていただければ幸いです。 本記事は 5 万文字を超える大作となっております。 お時
なぜObsidianが2025年になって注目されているのか | gihyo.jp
前回までの連載のあと、2023年秋に『Obsidianで"育てる"最強ノート術』を刊行しました。そして2025年になって、Obsidianが大きく注目を集めています。今回はその背景と理由について解説します。 AIとの連携 ObsidianはノートアプリやPKM（Personal Knowledge Management）ツールとして注目を集めました。主な特徴として、この連載でも解説してきた次のことが挙げられます。 ローカル環境で動作する Markdownで書いたノートをリンクできる 階層型のタグで管理できる プラグインで拡張できる そんな中、2025年になって注目された背景として、「AI（人工知能）との連携」があります。ここでは「生成AIの進化」「RAGとMCPの登場」「AIエージェントの登場」という3つの視点から紹介します。 生成AIの進化 2022年末にChatGPTが公開されて
【無料公開】LangChainのススメ 〜Deep Researchまで〜【入門】【初心者お助けbook】【2025年最新版】
【無料公開】LangChainのススメ 〜Deep Researchまで〜【入門】【初心者お助けbook】【2025年最新版】 LangChainで調べると、古い書き方の記事や書籍、有料のカリキュラムなどが溢れています。 公式ドキュメントを自分で読んで調べられる人は問題ないですが、慣れていない人からすると、いろいろな書き方があって、どれが正しいのか混乱すると思います。 （実際、私が調べた時も、古い非推奨の書き方が検索トップに表示されるなど、とても混乱したことを覚えています） そこで、「これだけ覚えれば一旦十分！」といった最小限の内容を、これからLangChainを学びたい初学者のために、まとめました。 【無料公開】 有料設定しておりますが、ほぼ全てのチャプタは無料で読めるようになっております。 有益だと感じたら、購入いただけると嬉しいです。 【いいねのお願い】 初学者がLangChainを
オレオレ RAG をさくっと作る
この記事は間違いが含まれている可能性があります。 もともと自社のドキュメントでは Meilisearch で日本語全文検索を実現していましたが、ドキュメントに質問できるようしたいと思い、簡単な RAG を作りたい！と思っていました。 とりあえず、ドキュメントを分割し、ベクトル化してベクトルデータベースに突っ込んで、質問をベクトル化して結果を引っ張り、それを LLM に食べさせて解説させる、というのができればよいということがわかりました。 ベクトル化はよく使われている OpenAI Embeddings API を利用し、ベクトルデータベースは普段からよく使っている DuckDB に VSS (Vector Similarity Search for DuckDB) という拡張を使うことにしました。 自社のドキュメントをなんとかうまいこと分割して、あとは分割したドキュメントを API を叩い
情報収集が変わる！ Gemini Deep Researchの可能性とカスタムGPTによる最適化｜genkAIjokyo|ChatGPT/Claudeで論文作成と科研費申請
はじめにGoogleのGemini Advancedに搭載されたGemini2.5ProによるDeep Researchは、特に医療分野のような専門的な情報収集において、その高い能力が注目されています。GeminiのDeep ResearchはChatGPTなどの既存AIツールと比較して、参照する文献数の多さや情報処理の速度において優位性を示す一方で、生成されるレポートが冗長になったり、要点が掴みにくくなったりするという課題も感じます。この記事では、Gemini Deep Researchの性能と留意点を評価するとともに、日々の活用に役立つ基本的なTipsもご紹介しつつ、これらの課題を克服し、そのポテンシャルを最大限に引き出すためのカスタムGPTも紹介します。 Gemini Deep Researchの性能評価：ChatGPTとの比較AIによるリサーチ支援ツールとして、ChatGPT のD
中島聡がガチでテスト、「今一番賢いローカルAI」のすごい実力。Phi-4やGemma3を知らない人、そろそろヤバいかもです - まぐまぐニュース！
著名エンジニアの中島聡氏が、オープンソースの各種AIモデルをローカル環境（MacBook Pro）でテストしその実力を評価。それらが私たちのビジネスにどのような変化を起こすかを予測する。中島氏によれば、MicrosoftのPhi-4に代表されるSLM（小規模言語モデル）の能力がLLM（大規模言語モデル）並みに上昇することで、法人向けエンタープライズ市場では近い将来、クラウド上のAIサービスではなく、個人のパソコンや社内のAIサーバーでオープンソースなSLMを走らせるのが主流になるという。（メルマガ『週刊 Life is beautiful』より） ※本記事のタイトル・見出しはMAG2NEWS編集部によるものです プロフィール：中島聡（なかじま・さとし） ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LLMは「同じ質問を2回」入力すると精度が上がる──Google研究者ら、プロンプト反復の効果を短報で報告 | Ledge.ai
TransformerからMCPまで（現代AIを理解するための羅針盤）
『AIが平気で嘘をつく「ハルシネーション」』……「なぜAIがハルシネーションをするのか」をOpenAIが明らかにした論文を発表
東大・松尾研、2024年度「大規模言語モデル講座」の講義スライド資料を無料公開／LLMの活用法からモデル構造、応用まで幅広く学べる
MCPに入門する/ Introduction to MCP
