はてなブックマーク

本記事では、RAGの精度を向上させるための「ドメイン特化埋め込みモデル」の手法について、ざっくり解説します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、メルカリの研究チームがAAAI 2026で発表した「ドメイン認識型テキスト埋め込み」に関する論文[1]について、日本語で簡単にまとめたものです。 ちなみに、この論文自体はRAGについて直接言及したものではありません。しかし、 RAGとは検索エンジンそのものです。一般的な検索技術の精度向上手法は、そのままRAGに使えることも多いです。 今回は特に、「一般的なベクトル検索だけでは、業界用語・日本語データをうまく検索できない」 という、RAGで「あるある」な課題に対する、強力な解決策が示されています。 今回も「そもそもRAGと

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、過去の対話情報をもとに、LLMと一貫した会話を続けられる仕組み「Hindsight」について紹介します。 サマリー RAGの代表的な活用方法の一つとして、過去のメールやチャットを情報源に、それまでのやり取りを前提とした会話を成立させる手法があります。 しかし、やり取りのデータは時間とともにどんどん増えていきます。さらに事実と意見が混在したデータも多く存在するため、標準的なRAGを導入してもうまく会話を成立させることができません。 「Hindsight」は、過去のやり取りを構造化し検索性を上げることで、高い精度で関連する情報を検索しつつ、LLMが認識しやすい形で情報を渡すことができるようになっています。 課題意識 会話データとRAGの相性 一般的なRAGは、大量の情報の中から、いかに正解の情報を効率よく見つけるか、に焦点が当て

本記事では、RAGの応答速度を速くするための「MixLM」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、RAGで必須の手法「リランキング」の速度を飛躍的に高める「MixLM」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー 「MixLM」は、RAGの応答を高速にするための手法です。LinkedInの研究チームによって2025年11月に公開されました。 通常のRAGでは、リランキングという手法がよく使われます。これは何かというと、ベクトル検索で取ってきた文書を「ユーザーの質問との関連性」で並び

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、非構造データから構造データとナレッジグラフを構成して、質問に応じた検索手法を実行することで高い精度を実現する手法「BookRAG」を紹介します。 サマリー RAGはこれまでチャンク化した文書を検索するや、ナレッジグラフを構築して検索する手法など様々な手法が提案されて来ましたが、それぞれ苦手な検索(詳細は後述の課題意識で説明)が存在し精度に限界がありました。 「BookRAG」はツリー構造データとナレッジグラフを組み合わせたうえで、検索に利用可能な処理を11種類作成し、検索時に適切な処理を選択することで高い精度を実現できる手法となっています。 課題意識 既存手法の課題 RAGはこれまで様々な手法が提案されてきましたが、苦手な検索も存在します。 一般的なチャンク化した文書を検索するRAGでは、離れた場所の内容同士の関係性を捉える

本記事では、RAGの性能を高めるための「SINR」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ企業向けに開発しているスタートアップです。 この記事は何 この記事は、RAGにおける「検索」と「生成のための読み込み」を分離する新手法「SINR」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー 「SINR」は、RAGの回答精度を高めるための手法です。Dell Technologiesの研究チームによって2025年11月に発表されました。 ちなみに「SINR」は「Search is not Retrieval」の略です。「検索とリトリーバルは違うよ」という主張です。 通常のRAG

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、ドキュメントをグループに分けてリランクを行う「GroupRank」という手法について紹介します。 サマリー RAGの重要な構成要素の一つがリランクです。ベクトル検索して取得したドキュメントをユーザーのクエリとの関連性で並び替え、関連性のより高いドキュメントのみをLLMに渡し、回答を生成できます。リランクの精度が、RAGの性能に直結するとも言えます。 リランクには大きく分けて2種類の方法があり、個別に関連度を点数化する手法と、全てのドキュメントをまとめて比較する手法があります。しかし、前者は精度面で、後者は速度とドキュメント数の上限の問題を抱えています。「GroupRank」では、2種類のリランク手法のいいとこ取りをすることで、高速に精度の高いリランクを可能にしました。 課題意識 リランクの精度と時間 リランクは、ユーザーのク

本記事では、RAGの基本的な仕組みを理解するために、Pythonを使ってゼロからRAGを実装する手順をざっくり解説します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事では、非エンジニアでも、手元のPCで「RAG」を動かせるというところまで解説したいと思います。 こんな感じでRAGを構築できます。入門から解説します 最近、非エンジニアでも、RAGに興味を持つ方が増えました。 ただ、一方で、RAGの「基本」についての記事は、だいぶ減っています。このままだと、「RAGに詳しい人だけが、さらに詳しくなっていく」という状態になってしまいます。 そこで今回は、入門者向けに、「やってみた」形式で、RAG技術のざっくり解説をしていきます。なるべく簡単に行きます↓ そもそもRAGとは？ RA

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、検索結果を効率的にキャッシュすることで、Agentで利用するRAGの速度を高速化することのできる手法「RAGBoost」について紹介します。 サマリー RAGは検索とLLMを組み合わせることで、チャット形式で情報を検索できる便利な手法です。一方で、検索にかかる時間や、コンテキストの増加によるコストや時間の増加が問題となります。今回紹介する「RAGBoost」は、検索手法の工夫とコンテキストの再利用でRAGの高速化に成功しています。特にAgent内でRAGを利用した際にさらに効果を発揮するなど、活用の幅が広いです。 課題意識 RAGの回答時間 RAGを利用するうえでの大きな課題の一つとして、回答が遅くなる問題があります。これは、長文を入力するとLLMの回答が生成され始めるまでが遅くなるためです。一般的に文章は長いほど回答までの

本記事では、精度の高い「Deep Research」機能を実装するための手法について、ざっくり解説します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、「Deep Research」の新手法「Enterprise Deep Research (EDR)」の論文[1]について、日本語で簡単にまとめたものです。 本題 ざっくりサマリー 「EDR」は、Deep Researchの「がっかり体験」を減らすための新しい手法です。 Salesforce AI Research の研究者らによって2025年10月に提案されました。 「Deep Research」が話題です。この機能では、Web上の情報をもとに深く考え、高精度な回答ができます。しかし、Deep Researchは、「途中

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、DeepResearchの精度を底上げする手法「SLIM」について紹介します。 サマリー DeepResearchは、検索を何度も繰り返すことで、知りたい情報を深く詳細に知ることのできる手法です。DeepResearchはその性質上、膨大な量の文章を処理する必要があります。gpt-5を含む最近のLLMはこの大量の文章を処理・理解する能力が飛躍的に伸びている一方で、検索を繰り返し、情報が増えていくことでLLMの性能は段々と低下していきます。 今回紹介する「SLIM」は、DeepResearchが検索を繰り返す過程で情報を見失う前に、そこまでの検索内容を適切な要約に変換することで、情報を見失わないまま高い精度で検索を続けられます。 課題意識 DeepResearchのコンテキスト爆発による精度低下 DeepResearchは、詳

本記事では、RAGの性能を高めるための「DualCSE」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ企業向けに開発しているスタートアップです。 この記事は何 この記事は、日本語特有の「あいまいな婉曲表現」（=ぬるっとした日本語）を含む文章でもRAGの精度を上げるための手法「DualCSE」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー DualCSEは、RAGの「ベクトル検索の弱点」に立ち向かうための手法です。北陸先端科学技術大学院大学と東芝の研究者らによって2025年10月に提案されました。 通常のRAGでは、RAGの対象となるソース文書を、一つのベクトルデータに変換

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、ドキュメントの更新に強いRAGの手法「VersionRAG」を紹介します。 サマリー RAGは便利な手法ですが、文書のバージョンの変化が苦手です。例えば、仕様書のように更新されていく文書の新旧の認識が苦手です。Google検索で出てきた情報が古い情報で、今では利用できない。というのは誰しもが経験してきたのではないでしょうか。RAGでも、同様の問題が発生します。 今回紹介する「VersionRAG」は、内容が時間経過でどんどん更新されていくドキュメントに特化することで、バージョンの更新に強い手法となっています。 課題意識 意味検索の弱点 RAGは基本的に、意味的な類似度や単語の類似度をベースに関連するドキュメントを探す機能となっています。これで多くのケースをカバーすることができますが、不得意なドキュメントのパターンというものも

この記事は何 ナレッジセンスでは、エンタープライズ向けにRAGサービスを提供しています。その中で「RAGは簡単に作れるけど、精度を上げるのは難しい」という課題に日々向き合っています。本記事は、2024~2025年に公開された研究や事例をもとに、RAGの回答精度を高める代表的なアプローチを ざっくりまとめたものです。 ざっくりサマリー この記事では、企業の社内データを利用したRAG、特に大企業で「エンタープライズRAG」での実装手法についてざっくり理解します。まず、エンタープライズRAGでのよくある課題をお伝えします。その上で、2025年現在の最新動向を踏まえ、評価手法のような基本戦略から、ちょっと高度なテクニックまで、RAGの精度を向上手法を概観します。 （エンタープライズRAGとは、社内の膨大なデータをLLMが活用可能にするためのソリューションのことです。） RAG、実装は簡単。しかし、

本記事では、RAGの性能を高めるための「REFRAG」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。 この記事は何 この記事は、RAGの回答を爆速にする手法「REFRAG」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー REFRAGは、RAGの回答速度を上げるための新しい手法です。「巨額報酬での人材引き抜き」で話題になったMeta社の「Superintelligence Labs」[2]の研究者らによって2025年9月に提案されました。 通常のRAGでは、外部のデータベースから検索した関連文書を、そのままLLMに渡します。しかし、

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、RAGで数値情報を正しく認識できるのかを調査した論文を紹介します。 サマリー RAGはユーザーの質問に対して、意味的な類似度から関連性の高い情報を検索して、ユーザーの質問に回答します。この意味的な類似度の検索がRAGの技術を支えていますが、その性能に関しては様々なベンチマークが乱立しており、体系的に把握されていないことも多く存在します。 今回は、数値にフォーカスして、RAGが正確に数値を把握できているかの調査結果とその分析をしていきます。 課題意識 類似度検索の限界 意味的な類似度による検索は、一見万能に見えますが苦手もあります。一般的には、固有名詞、特に社内用語などの一般には知られていない単語や言葉の使い方が登場すると、類似度検索の性能は大きく下がります。これは、学習の段階で登場しない単語の類似度を判定できないためです。そ

本記事では、RAGの性能を高めるための「PageIndex」という手法について、ざっくり理解します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、RAGで「ベクトルDB」を使わずに回答精度を上げる手法「PageIndex」[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます（参考）。 本題 ざっくりサマリー PageIndexは、RAGの精度を上げるための新しい手法です。Vectify AIによって開発されました。 通常のRAGでは、文章をベクトル化して、類似度が高いものを検索して参照します。しかし、これだと「意味は似ているが、文脈は違う」情報を取ってきてしまい、回答精度が落ちます。 そこで、PageInde

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、RAGの認知の階層を分析して、ハルシネーションを防ぐ手法「LFD」について紹介します。 サマリー 以前の我々のブログでLLMに無関係な文書を渡すことでRAGの性能が向上する、という突拍子もない論文を紹介したことがありました。 今回紹介する論文では、その無関係な文書がLLM内部でどのような役割を担っているのかを分析し、原因を突き止めました。さらにそこから一歩踏み込み、無関係な文書を渡すことなく、同等の性能を向上させる手法「LFD」を発見しました。 課題意識 RAGのハルシネーション RAGはユーザーの知りたい情報を検索して、検索結果をLLMに渡すことで、LLMの知らない情報も回答できるようにする為の技術です。しかし、LLMは自身の知る知識と検索結果を明確に区別できないために、たとえ正確に情報を検索できたとしても、正しい情報を回

本記事では、AIエージェントの性能を高めるための手法について、ざっくり解説します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、AIエージェントに「手続き記憶」を持たせることで性能を向上させる手法「Memp」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもAIエージェントとは？」については、知っている前提で進みます（参考）。 本題 ざっくりサマリー Mempは、AIエージェントの精度・効率を上げるための新しい手法です。浙江大学とアリババの研究者らによって2025年8月に提案されました。 ここで言う「AIエージェント」とは、例えばOpenAIの「Deep Research」や「Claude Code」のようなエージェントです。 「AIエージェント」が

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、RAGの出力がどの情報源を元に出力したかを示す出典を、トークン出力確率を用いて判定する手法「LoDIT」について紹介します。 サマリー RIGに代表されるように、LLMが出力した情報を信じるためには、参照した情報が元々どのように記載されていたかを知ることが重要です。 そのためRAGでは、出力されたテキストに出典を明記します。しかし、既存の手法はいずれも文章が出力された後に参照との対応を探します。このため、既存の手法では「参照を判定したい文章」の出力途中の情報を活かせず、参照の判定精度が下がってしまいます。 これに対して「LoDIT」では、リアルタイムに情報源を判定します。情報源の特定には「トークンの出力確率」という出力の瞬間に得られる情報を利用しているため、既存の手法と比べてよりLLMが参照に利用していた情報源を正確に特定で

株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 本記事では、OpenAI開発者への最新インタビューから、今後のRAG動向を予想します。 本記事で参考にしているインタビューは、こちらの[1][2] 2本です。 登場する開発者は全員、「GPT-5」の開発に、リーダーレベルで関わっている方々です。公式リリース等には出ていない情報も多く、とても勉強になります。 本題 ざっくりサマリー GPT-5がリリースされました。当然、モデルの性能が上がるほど、RAGの精度が上がります。とはいえ、単に「コーディング」の精度が上がるだけだと、正直、あまりRAGに関係ありません。 しかし今回、GPT-5に関わったOpenAI開発者のインタビューをじっくり読み解いてみると、①今後もエンタープライズRAGが重要であり

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、強化学習とRAGを組み合わせることで検索の性能を大幅に向上させる手法GraphRAG-R1について紹介します。 サマリー 最近のRAGの手法は、必要な情報を一度に集めるのではなく、情報が必要なことが判明するたびに繰り返し検索する手法が主流になっています。 一方で、繰り返しの検索にも問題はあり、「必要な情報を集めきれていないのに検索を終えてしまう(検索不足)」、「必要な情報を十分集めたのに更に検索しようとしてしまう(検索過多)」などの問題を抱えています。 今回紹介するGraphRAG-R1は繰り返し検索の精度に着目した手法です。どんな検索を、どのタイミングで行うべきかを強化学習で学びます。これにより、必要十分なコンテキストを提供できるようになり、既存の手法の性能を最大80%も向上させています。 課題意識 必要十分な情報を収集す

本記事では、精度の高い「Deep Research」機能を実装するための手法について、ざっくり解説します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、「Deep Research」の新手法「Test-Time Diffusion Deep Researcher（TTD-DR）」の論文[1]について、日本語で簡単にまとめたものです。 本題 ざっくりサマリー 「TTD-DR」は、Deep Researchの精度を上げるための新しい手法です。 Google Cloud の研究者らによって2025年7月に提案されました。 最近、OpenAIの「Deep Research」が話題です。この機能では、Web上の情報をもとに深く考え、高精度な回答をすることができます。ただ残念ながら、

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は、コンテキストエンジニアリングがエージェントにとってなぜ重要なのかを解説します。 説明の過程で、上記のブログの内容を参照しています。 サマリー ここ最近コンテキストエンジニアリングという言葉が話題になっています。 ツイートの中でも登場するプロンプトエンジニアリングと似た言葉ですが、コンテキストエンジニアリングという言葉が登場した背景にはエージェントの台頭が関係しています。 これまでLLMは基本的に「人」が利用するものでした。そのため入力するプロンプト、そのものに焦点を当てられていました。しかし、「エージェント」は人の手が基本的に介在することなく、自動的にLLMが動作し続けます。そのためプロンプトだけではなく、情報そのものをどう管理するかまで考える必要性が出てきました。この情報の扱い方を考えることこそコンテキストエンジニアリング

本記事では、LLMの「画像読み取り性能」を高める手法について、ざっくり紹介します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、画像に「横線」を引くだけでLLMの画像読み取りの性能を向上させる手法を提案した論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 ※ちなみにこの手法は直接的にはRAGではありません。しかし、2025年は「マルチモーダルRAG」が流行する年です。例えば、社内データの「ごちゃごちゃしたポンチ絵」などを正確に読み取れると、マルチモーダルRAGの精度は向上します。 本題 ざっくりサマリー 画像に3本の横線を追加し、「この線に沿って順番に見て

本記事では、社内に散らばる非構造的なコミュニケーションデータ（暗黙知）を、AIを使って整理 し、RAGで活用しやすくする手法について、ざっくり理解します。 株式会社ナレッジセンスは、「エンタープライズ企業の膨大なデータを掘り起こし、活用可能にする」プロダクトを開発しているスタートアップです。 この記事は何 この記事は、メール文面・チャットログのような「非構造データ」を、RAGに使える知識ベース（構造化データ）に自動で変換するマルチエージェントシステムの論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー 今回の手法は、社内のサポートチケットやチャットログのような、整理されていない「暗黙知」 を、AIエージェントを使って RAGで使える「形式知」 に自動で

株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、専門家のようなレポートを、図表付きで生成できる AIエージェント を実装するための手法について、ざっくり理解します。 この記事は何 この記事は、RAGの新手法である「Multimodal DeepResearcher」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー 最近、OpenAIの「Deep Research」機能が話題です。この機能では、Web上の情報をもとに深く考え、高精度な回答をすることができます。ただ残念ながら、現在のところ本家「Deep Research」では、テキスト（文字）だけでしか出力できません

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。 今回は文書の前処理によって、LLMの回答精度を20%も引き上げることに成功したRAGの手法について紹介します。かなりシンプルな手法で、RAGの効果を簡単に体験できる方法となっているので、まだRAGを作ったことが無い方におすすめの手法となっています。 サマリー 今回紹介する論文では、企業の財務情報の読み込みに、前処理とRAGを組み合わせることでそのままデータを渡した場合と比較して性能を20％向上させることに成功しています。しかも誰でも簡単に利用することができる手段の組み合わせで実現しており、RAGをそもそも試したことがない方や少し試してみたけどイマイチ効果がわかりにくいと感じた方が、試しやすい方法となっています。 LLMの解釈の限界 現状のLLMの解釈の限界 昨今のLLMは巨大な入力トークン上限とマルチモーダルの能力を手に入れたことで

株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、RAGシステムがより正直に、知らないことには「分からない」と言えるようにするための手法「DTA（Divide-Then-Align）」について、ざっくり理解します。 この記事は何 この記事は、RAGの新手法である「DTA」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は、こちらの記事もご参考下さい。 本題 ざっくりサマリー DTAは、RAGの精度を上げるための新しい手法です。USTCやCASIAなどの研究者らによって2025年5月に提案されました。 通常のRAGでは、外部ソースから検索して得た情報を直接利用して、最終的な回答を生成します。ただ、これだけだとLLMの元から