本記事では、最近よく聞くようになった「CRAG」についてざっくり理解します。軽めの記事です。 はじめまして。ナレッジセンスの門脇です。生成AIやRAGシステムを活用したサービスを開発しています。 この記事は何 この記事は、RAGの新手法として最近注目されている「Corrective Retrieval Augmented Generation (CRAG)」の論文[1]について、日本語で簡単にまとめたものです。 「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 本題 ざっくりサマリー RAGの性能を高めるための新しい手法です。Googleなどの研究者によって2024年2月に提案されました。CRAG（日本語にすると「修正型検索拡張生成」）という手法を使うメリットは、ハルシネーション（幻覚）を減らせることです。CRAGが従来の「RAG」より

インド科学研究所の科学者らが、高エネルギー粒子の振る舞いを研究している最中に、偶然「円周率(π)」の新しい表現方法を発見したことを報告しました。 Phys. Rev. Lett. 132, 221601 (2024) - Field Theory Expansions of String Theory Amplitudes https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.132.221601 Indian Institute of Science https://iisc.ac.in/events/iisc-physicists-find-a-new-way-to-represent-pi/ 円周率の新しい公式を発見したのは、インド科学研究所高エネルギー物理学センターのAninda Sinha氏(左)とArnab Saha

それでは以下、簡単なデモを含めながら個別に説明していきます。 1. ハイブリッドサーチ こちらは、性質の異なる複数の検索方式（例えばベクトル検索とキーワード検索）を組み合わせて検索精度を向上させる手法になります。 各検索方式単体の場合に比べ、性質の異なる検索方式を組み合わせ、ある種いいとこ取りをする事で、検索性能の向上が期待できます。 今回はBM25でのキーワードベースの類似度検索と通常のベクトル検索を組み合わせていきます。 BM25について簡単に説明しておくと、文脈や文章構造は完全に無視した上で、文書内の単語を全てバラバラに分割し、文書内の各単語の出現頻度と文書間におけるレア度を加味した特徴量を算出します。 つまり、特定の文書内の各単語の数をカウントしてヒストグラムを作れば、似たような文書には同じような単語がよく出るはずなので(同じようなヒストグラムの形になるので)、類似度が高くなる性質

科学的発見が私たちに届くまでの伝言ゲームで、さまざまな誇張・曲解・誤解が注入されています。 いったい、どうやったら、この伝言ゲームに勝ち、信用できる科学的発見と、地雷とを見分けることができるのでしょうか？ 『Science Fictions』という本がその参考になります。 この本は、アメリカのamazonで306人に評価され、☆4.6という高評価。 世界最大の書評サイトgoodreadsでは1925人に評価され、☆4.39という高評価。 日本のamazonでは31人に評価され、☆4.0と、中程度の評価(翻訳は良い)です。 この記事では、この本を元に、以下の２つの視点から、この問題と、その解決策を検討します。 〔問題の把握〕 科学的発見の流通システムにおいて、いかにして、発見が誇張され、曲解され、誤解され、流通し、最終的に私たち一般人がそれを信じてしまうのか、その全体像を把握する。 〔解決策

AI界を席巻する「Transformer」を解説するシリーズ1日目です。 原文は、「Attention Is All You Need」で、Google Brain、Google Research、University of Trontoのメンバー達が2017年に公開したものです。論文は分かりにくいタイトルが多い中で、このタイトルは秀逸ですね。 入れ替わりが激しいAI技術ですが、Transformerは、2021年5月時点でむしろその勢いを増してる技術で、今回はその土台となった論文です。 Attention Is All You Needの論文PDFはこちら 1日目：　Abstract 2日目：　Introduction / Background 3日目：　Model Architecture 1 4日目：　Model Architecture 2 5日目：　Model Architect

h-indexは研究者の研究分野への貢献度を示す指標です。その数値はどのように算出され、何に使われるのか、また自分の論文のh-indexはどのように調べるのかなどの基本について、詳しく解説します。 h-indexとは？ h-index（h指数）とは、いくつか考案されている研究成果を定量化する指標のひとつです。 研究者の研究成果に対する評価はその内容や社会的な重要性、所属する分野など様々な要素が絡むため客観的に示すことは困難です。 しかし採用活動の際など何らかの数値化判定が必要な場合があります。よって近年、被引用数と論文数のバランスを意識した数値であるh-indexが用いられています。 h-indexの定義 h-indexはアメリカの物理学者Jorge E. Hirsch氏が2005年に発表した指標です。 その定義は「発表した論文のうち、被引用数がh回以上ある論文がh本以上ある場合、これを満

1Department of Anthropology, Pennsylvania State University, University Park, PA, United States 2Huck Institutes of the Life Sciences, Pennsylvania State University, University Park, PA, United States In the 21st century, neuropsychiatric disorders (NPDs) are on the rise, yet the causal mechanisms behind this global epidemic remain poorly understood. A key to these unknowns may lie within the vast

歯はエナメル質・象牙質・セメント質からできており、歯茎から露出している歯冠部を覆っているエナメル質は人間の身体組織の中で最も硬い組織の1つです。しかし、このエナメル質は口の中に住み着いているミュータンス菌が糖質を分解して生み出す酸によって簡単に溶かされ、虫歯になってしまいます。従来の虫歯治療は虫歯に冒された部分を削って詰め物で補うしかありませんでしたが、ワシントン大学の研究チームが幹細胞からエナメル質を作り出すことに成功したと報告しており、再生医療による新たな虫歯治療法の確立が期待されます。 Single-cell census of human tooth development enables generation of human enamel - ScienceDirect https://doi.org/10.1016/j.devcel.2023.07.013 No More C