Top > 学術&研究 > 「RAG」と「ロングコンテキストLLM」の徹底比較:LLMの長文理解における新たなハイブリッドアプローチ Google DeepMindとミシガン大学の研究
![「RAG」と「ロングコンテキストLLM」の徹底比較:LLMの長文理解における新たなハイブリッドアプローチ Google DeepMindとミシガン大学の研究 | Ledge.ai](https://cdn-ak-scissors.b.st-hatena.com/image/square/c3947fc2bf7b0915ced1bdd7e0462765585e2f7b/height=288;version=1;width=512/https%3A%2F%2Fstorage.googleapis.com%2Fledge-ai-prd-public-bucket%2Fmedia%2FRAG_vs_Long_Context_44d81b64dd%2FRAG_vs_Long_Context_44d81b64dd.jpg)
3. 副作用 冪等、安全、キャッシャブルのセクションに入る前に、まず「副作用」について解説します。 2014 年 6 月に廃止された RFC-2616 の「9.1 安全と冪等メソッド」のセクション では、「副作用(side effects)」という表現が使用されてきましたが、多くの方は、この「副作用」のことを、「リソースの状態の変化」と解釈されてきたことと思います。[ 1 ] 特に関数型プログラミングにおいては頻出する表現ですが、ソフトウェア工学的にも コンピューターの論理的な状態を変化させ、以降の結果に影響を与えること [ 2 ] とされています。 しかし、HTTP の「冪等と安全」の解釈の混乱を招いてきた要因 [ 3 ] の一つのは、この「副作用」の表現方法が適切ではなかった、ということではないでしょうか。 以下では、その理由について解説しますが、その必要のない方はこのセクションはスキ
2024年6月29日(土)にHOKKAIDO x Station01をお借りしてえにしテック15周年記念カンファレンスを開催しました。 当日はたくさんの方々にお越しいただき、おかげさまで、とても特別な15周年を迎えることができました。参加いただいた皆さま、あたたかいメッセージをいただいた皆さま、登壇いただいた高橋さん、角谷さん、大場さん、平鍋さん、美味しいコーヒーを出していただいた猫廼舎さん、運営をつつがなく取り仕切ってくれたメンバーのみんなに感謝します。ありがとうございました。 正直、まだあの場がなんだったのかをきちんと飲み込みきれておらず、きちんとした総括はできない感じなのですが、何かを書いておかないと先に進めない気がしているので、一旦カンファレンスのことを書き残しておこうと思います。 15周年の節目、何をしたいかと考えて出てきたのは、一番に初心に返って勉強会がしたいなという気持ちでし
サーバ側だけでフォーム画面をインタラクティブに! 〜Hotwire を活用した「Ghost Formパターン」〜 こんにちは、@nay3 です。 私はここ数年、仕事とプライベートの両方で Rails と Hotwire を使ってアプリケーション開発をしていますが、その中で、繰り返し使っているパターンがあります。 そのパターンは、とても便利なのですが、数ヶ月も間が空くと忘れてしまい、つい旧態依然としたコードから出発してまた同じところにたどり着く、ということを繰り返してしまいます。 実は、最近もまた繰り返してしまいました。 そこで、今後はすぐに思い出して再利用できるように、このパターンに「Ghost Form パターン」(※)という名前をつけて、記事化してしまうことにしました! ※Ghost Form という名前については、レビュー協力をいただいた @tanaka51 さんの案を採用させていた
動画やWebページの調べ物を良くする人はOtio AIを使ったほうが良い。効率がめちゃくちゃ良くなる。逆にたまにしかページを読み込んだりしっかり動画をみたりしないという人も使った方が良い。なれない自分がやるよりも10倍しっかりポイントを掴んで教えてくれる。 Otio AIとは Otio AIとは、指定した資料の中に調査する内容を限定して調べ物をすることに特化したAIだ。WebページやYoutube動画のURLを貼って概要を把握、追加質問をしていく形でさらに掘っていくことができる。日本語のYouTubeの動画を1/10の時間でまとめてくれたのには感動したし1、OpenID for VCI のまとめを作って、それに追加質問して内容を識っていったりするのもハードルがすごく低い。調査の内容を、指示したソースだけに限定できるのは、結果の信頼度を上げるのに結構大きい。ただし、今のところ実質的にPCやM
概要 元サイトの許諾を得て翻訳・公開いたします。 英語記事: Gemfile of dreams: the libraries we use to build Rails apps—Martian Chronicles, Evil Martians’ team blog 原文更新日: 2024/05/28 原著者: Vladimir Dementyev(首席バックエンドエンジニア)、Travis Turner(技術記事編集者) サイト: Evil Martians -- ニューヨークやロシアを中心に拠点を構えるRuby on Rails開発会社です。良質のブログ記事を多数公開し、多くのgemのスポンサーでもあります。 日本語ブログ: 合同会社イービルマーシャンズ - Qiita 日本語タイトルは内容に即したものにしました。また、gemごとにGitHubリポジトリへのリンクカードも追加してあ
概要 NAT動作をめぐる誤解まとめ - turgenev’s blogでは、UDPホールパンチングのしやすさとポートの節約を両立するには「Address Dependentなマッピングを保持しつつEIM風に動作するADFなNAT」が一番いいという話を書きました。これだとv6プラスやOCNバーチャルコネクトでもNintendo SwitchのNAT判定が「タイプA」になります。 この記事では、Symmetric NAT/Full Cone NATをサポートするruby製NATであるrat(GitHub - kazuho/rat: NAT written in pure ruby)を手元で動かし、またコードを少しだけ変更することで上記のようなNATを実際に動作させるところまでを紹介します。変更後のコードはGitHub - ge9/rat: NAT written in pure rubyに公開
色々な技術カンファレンスに参加するのが趣味なので、長年ずっと行ってみたかった RubyKaigiに初めて参加してみたという話です。普段、仕事でも趣味でもイベント運営をしているのでそういった視点からイベントの雰囲気をお伝えします。セッション内容や技術そのものに関しては言及していない点と、写真がとっても多い点にご注意ください。 初めてのRubyKaigiの印象は、Rubyを愛している人たちのために、Rubyを愛している人たちが作り上げているイベントだなぁというもので、やはり他のカンファレンスとは一線を画す熱量がありますね。運営に関わった皆さんの「楽しんでもらいたい」という愛を感じる素晴らしいイベントでした。 rubykaigi.org RubyKaigi 概要 Day -19 Day 0 Day 1 Day 2 Day 3 RubyKaigi 概要 RubyKaigiは国際カンファレンスとして
正規でないURLを含むXMLサイトマップを送信することは、Googleによる正規URLの評価を混乱させる原因となり、サイト運営者にとって大きな損失につながります。この記事では、カバレッジレポートがエラーだらけになっているサイトを対象に、XMLサイトマップの適切な取り扱いについて解説します。 概要サーチコンソールのインデックス カバレッジ レポートにおいて、大量のエラーや警告が報告されている場合、放置してはいけません。早急な改善が必要です。そうしたインデックス状況の改善はSEOを実施していくうえで最も重要かつ基本的なことのひとつです。 5xxサーバエラーを除くと、大量のエラーや警告の原因のほとんどすべては、送信しているXMLサイトマップが不適切であることです。不適切なサイトマップの送信は、インデックス状況の適切な管理を妨げるだけでなく、検索流入にマイナスの効果を及ぼします。 適切なサイトマッ
Syntax Highlighting code snippets with Prism and the Custom Highlight API 記事は上記記事を意訳したものです。 ※当ブログでの翻訳記事は元サイト様に許可を得て掲載しています。 ウェブ上の構文ハイライトの一般的な仕組みは、すべてのトークンを要素で囲み、適切なクラスを割り当て、CSSを使って色付けすることです。 CSS Custom Highlight APIのおかげで、DOMツリーにを散りばめてカラー情報を追加するステップを省略できます。 Custom Highlight APIの基礎 ブラウザサポート 静的コードスニペットの構文ハイライト 仕組み ステップ1:セットアップ ステップ2:コードのトークン化 ステップ3:トークンとハイライトの関連付け Custom Highlight APIの欠点 制限されたスタイリングオ
タブやアコーディオンの非表示コンテンツにはdisplay:noneがよく用いられますが、hidden="until-found"を利用するほうがメリットがあります。 hidden=“until-found”で非表示にしたコンテンツはページ内検索でアクセスできるuntil-foundはhidden属性に新たに追加された属性値です。 hidden - HTML: ハイパーテキストマークアップ言語 | MDN 従来のhidden属性とは違い、until-found"属性値を指定した場合はブラウザのページ内検索やページ内リンクでそのコンテンツが検出された場合、自動でhidden属性が取り除かれて表示することができます。 従来のdisplay:noneを使用した非表示ではコンテンツ内にページ内検索でマッチすべきワードがあったとしても検出できませんでしたが、hidden="until-found"を使
こんにちは、技術広報のえんじぇるです。 STORES は2024年5月15日(水)〜17日(金)に沖縄県那覇市で開催されるRubyKaigi 2024にNursery Sponsorとして協賛します。 託児サポートの詳細については下記サイトに記載しておりますので、希望される方はご覧ください。美ら海水族館に行くアクティビティも用意しています🐠 sites.google.com STORES がNursery Sponsorをやる理由 STORES は2023年7月にダイバーシティ方針を掲げ、多様な社員が「らしさ」や得意を生かすことで、顧客に価値を提供し続ける組織づくりを行なっています。多様な属性やライフスタイルを持つ人がエンジニアリングについて学べる・学びたいと思える社会に貢献することを目的として、2023年よりテックカンファレンスに「託児スポンサー」「ナーサリースポンサー」として積極的に
最近はGoogleではなくKagi Searchをメインの検索エンジンとして使っています。 Kagi Searchは$108/year($10/month)の有料の検索エンジンです。 広告モデルではない検索エンジンなので、有料のサブスクリプションモデルとなっています。 Plan Types | Kagi’s Docs いくつかプランがあり、検索し放題のProfessionalプランが$10/monthです Ultimate Plan ($25/month)だと外部のOpenAIのGPT 4とかClaude 3との連携とかも入ってきます 月に1-2万回ぐらいは検索することを考えると、 (108 / (10000 * 12)) * 150 で大体1検索が0.1円ぐらいのイメージですが、こちらもKagiのLLM機能は利用できるので、実質もう少しコスパは良いと思います。 検索ソースにはGoogle
このブログエントリでは、テスト駆動開発(TDD: Test-Driven Development)の考案者Kent BeckがTDDの定義を改めて明確化した文章を、許可を得たうえで翻訳し、訳者の考察を沿えています。 きっかけ 2023年の年末、テスト駆動開発(TDD: Test-Driven Development)の考案者Kent Beckは、substackにTDDに関するポストを連投して論戦を繰り広げていました。TDDはその誕生から20年以上が経ち、その間に「意味の希薄化」が発生して議論が噛み合わなくなっていました。意味の希薄化(Semantic Diffusion)とは、新しく作り出された用語が広まる際に本来の意味や定義が弱まって伝わる現象です。 私(和田)はTDDと関わりの深いキャリアを歩んできました。Kent Beckの著書『テスト駆動開発』の翻訳者であることもあり、TDDの正
はじめに タイトルまんまなんですが困っています。世界の人たちどうしてんの こんばんはconvtoです。故あってgoogle sign inの仕様について調べてたんですが、表題通りの問題を見つけて頭を抱えています。 お客様の中に医師免許を持った有識者の方いらっしゃいましたら助けてください。 google sign inまわり、古いドキュメントも新しいドキュメントもいっぱいあって全体像があんまりつかめてないので僕が混乱してるだけかもだけど、だとしたらそれはそれで嬉しいのでとりあえず投下しておく [追記] インターネットから知見があつまりAndroidは大丈夫な雰囲気あります!記事の末尾に追記してます iOSはまだnonce渡す手段見つかってないので引き続き調査中 & 有識者の意見お待ちしております なにが問題なの OIDCぽいのにnonceが指定できないから、session管理者がnonceの
この記事は、字源(漢字の成り立ち)を調べるにあたり、非科学的な説明などに騙されないようにするためのガイドである。二部構成で、前半で誤った字源説に対して自衛するための基本知識、いわば字源リテラシーとでも言うべきものを、広く浅くだが述べる。後半で、実際にネットや書籍で調べるにあたり、どれに当たるのがお勧めかを紹介する。なので、信頼できるツールを手っ取り早く知りたいという方は、二部から読んでいただいて構わない。 【第一部 字源リテラシーの構築】漢字の基礎 漢字は古代の中国語を表記するために発明された文字である。字源を理解するには、このことをまず頭に入れておかなければならない。ある事物(概念)を認識し、それを任意の音声によって表したとき、そこに意味と音声の結びつきである「語」が生まれる。それは以下のように図示される。 まだ文字の無い時代、口から発される語は意思伝達の基本であったが、音声は目には見え
近年、OpenAIのGPT-4やGoogleのGemini、MetaのLLaMAをはじめとする大規模言語モデル(Large Language Model:LLM)の能力が大幅に向上し、自然言語処理において優れた結果を収めています[1][2][3]。これらのLLMは、膨大な量のテキストデータで学習されており、さまざまな自然言語処理タスクにおいて、タスクに固有なデータを用いてモデルをファインチューニングすることなく、より正確で自然なテキスト生成や、複雑な質問への回答が可能となっています。 LLM-jp-eval[4]およびMT-bench-jp[5]を用いた日本語LLMの評価結果。Nejumi LLMリーダーボード Neoより取得。 大規模言語モデルは近年急速な進歩を遂げていますが、これらの進歩にもかかわらず、裏付けのない情報や矛盾した内容を生成する点においては依然として課題があります。たとえ
イントロダクション 最近自宅のネットワークが極端に遅かったため、IPv4 PPPoEからIPv6 IPoEに構成変更しました。 IPv4時代は固定グローバルIPを購入して外出先から自宅にVPNを張れるようにしていましたが、IPv6では残念ながらL2TP/IPSecが使えない。 (参考:https://zenn.dev/apple_nktn/articles/80acf34cf0634b) そもそもVPNで拠点接続するという構成自体が最近のトレンドではないよね、ということもありZTNA(Zero Trust Network Access)サービスであるCloudflare Zero Trustを試してみることにしました。 ゼロトラストネットワークとは(個人的な理解) ネットワーク上のあらゆるアクセスを信頼せず全て検査するという概念。 従来のDMZを用いた境界型防御は境界の内側は「暗黙的に信頼
なぜCOTENは資金調達の時に、事業計画書も出さず、Exitも目指さないとしたのか? - COTENの資金調達について はじめに この文章は、COTEN 深井が口述したものをけんすうさん(COTENのエンジェル株主でもあり、深井の友人でもあるシリアルアントレプレナー)に文章化していただき、それに加筆修正を加えたものです。けんすうさんのおかげで文章化することが叶いました。本当にありがとうございます!! こんにちは、株式会社COTENの深井龍之介と申します。 先日、株式会社COTENは資金調達を行いました。詳しくは、以下のPodcastとプレスリリースをご覧ください。 <資金調達 プレスリリース> https://t.co/5ytCLWpOWF <Podcast 資金調達 特別配信> Apple Podcast : https://t.co/oIxvpP2oUO Spotify : https
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く