RAG vs Long-Context LLMs vs Self-Route どれを使うべきか？Self-Route論文解説！ はじめに こんにちは、Yonemotoです。今回は2024年10月にGoogle Deepmindから発表された「Retrieval Augmented Generation or Long-Context LLMs? A Comprehensive Study and Hybrid Approach」という論文が非常に面白かったので記事にしました。RAG、LC (Long-Context)、そして論文で提示された新たなハイブリッド手法であるSelf-Routeを解説し、ついでにLCの関連技術であるプロンプト圧縮についても取り上げます。 RAG, LC, Self-Routeの概要 RAG:　低コストな従来手法 みなさんお馴染みのRAGは、外部データベースから関連

以下の記事が面白かったので、簡単にまとめました。 ・Towards Long Context RAG - LlamaIndex 1. はじめにGoogleは、1Mコンテキストウィンドウを持つ「Gemini 1.5 Pro」をリリースしました。初期ユーザーは、数十もの研究論文や財務報告書を一度に入力した結果を共有しており、膨大な情報を理解する能力という点で印象的な結果を報告しています。 当然のことながら、ここで疑問が生じます。「RAG」は死んだのでしょうか？そう考える人もいますが、そうではない人もいます。 幸運にも「Gemini 1.5 Pro」の機能をプレビューすることができ、それを試してみることで、ロングコンテキストLLMを適切に使用するには、RAGがどのように進化するのかについてのまとめました。 2. Gemini 1.5 Pro の 初期観察「Gemini」の結果は印象的で、テクニカ

能登半島地震から1年。現地では現在も復旧・復興に向けた取り組みが続いているが、災害発生直後の自衛隊の活動について、いまだ批判する声もある。陸路が寸断するなかで、航空機・ヘリコプターの活用が不充分だと言うものだが、これは正当な批判と言えるのだろうか？【自衛隊新戦力図鑑】 ヘリで重機を運ぶべきだった？ 狭隘な能登半島では、地割れや土砂崩れで道路が寸断された箇所も多く、発災直後には徒歩で被災地に向かう自衛隊部隊の姿も見られた。こうした状況に対して「ヘリで重機を吊下げて輸送すれば、迅速な人命救助や復旧に活用できたはずだ！」との批判をする者がいる。そもそも自衛隊のヘリで重機を懸吊することは可能なのだろうか？ 可能か不可能か、で言えばヘリによる空輸は可能だ。実際、2004年の新潟県中越地震では、陸上自衛隊の大型輸送ヘリ「CH-47」が重量約12トンのバックホウ（油圧ショベルカー）など複数の重機や発電機

八重山日報の「テロ行為容認の風潮許すな」をピックアップ。 知事選の街頭演説をしていた自民、公明推薦の佐喜真淳氏に、女性が銃弾のようなものを投げつける事件が起きた。けが人はなく、女性はその場で取り押さえられた。 一報を聞き、とっさに先月の安倍晋三元首相銃撃事件を思い出した。選挙運動中の政治家を襲う行為は、紛れもないテロだ。現在の日本で、このような事件が続発する現状を深刻に受け止めなくてはならない。 ･･･ 沖縄の米軍基地負担軽減は喫緊の課題であり、県民に根強い反基地感情が存在することは事実だ。だが女性が米軍基地の被害を訴えたことをもって、この行為の免罪符を得るような雰囲気を決してつくってはならない。ごもっともです。 詳細は元記事を見ていただきたい。 八重山日報はこんなにまとも何ですが、沖縄の琉球新報と沖縄タイムスときたら。 もちろんその２紙はこの話題を社説で取り扱っていない。 それどころか、

【読売新聞】昨年１２月２０日、東京都千代田区の富士通のオフィス。４人の社員が広告の費用対効果について議論していると、大型スクリーンに利益の推移を示す折れ線グラフが現れた。 「利益のデータを組み合わせて、新しい情報を示してくれましたね

米国のトランプ次期大統領が2016年の大統領選を前に不倫相手への口止め料を不正に処理したとされる事件で、ニューヨーク州の裁判所は10日、陪審の有罪評決を維持した上で、トランプ氏に刑の執行免除を言い渡した。就任を20日に控えた大統領の職務への影響を考慮した。米メディアなどが伝えた。 トランプ氏は量刑言い渡しにはオンラインで出廷した。裁判は米国の大統領経験者が初めて有罪判決を受けたケースで、トランプ氏は控訴する方針を明らかにしている。州法違反の事件のため、トランプ氏は大統領就任後も自身に恩赦を与えることはできない。 この裁判でトランプ氏は、16年の大統領選で不利にならないよう、当時の顧問弁護士を通じて不倫相手の女性に口止め料を支払い、それを隠すために業務記録に虚偽の内容を記載したなどとして罪に問われた。陪審員は昨年5月、起訴された34件の罪状すべてについて全員一致で有罪とする評決を下した。

Meta’s platforms are built to be places where people can express themselves freely. That can be messy. On platforms where billions of people can have a voice, all the good, bad and ugly is on display. But that’s free expression. In his 2019 speech at Georgetown University, Mark Zuckerberg argued that free expression has been the driving force behind progress in American society and around the worl