トークナイザーの重要性と継続事前学習の可能性 3名の専門家が語る日本語LLM開発の最前線
LLM開発の意義と課題 南野充則氏（以下、南野）：では、パネルディスカッションを始めていきたいと思います。本日1発目のパネルディスカッションなので、ちょっと盛り上げていきたいなと思っています。 私は、先ほど開会の挨拶もさせていただきましたが、南野と申します。モデレーターをさせていただきます。よろしくお願いします。 このセッションでは、ここでしか聞けない話をしっかり話していただこうということで、大規模言語モデルを作っている方々にいろんな質問を問い掛けていきたいと思っています。よろしくお願いします。 まず最初に登壇者のご紹介をさせていただきまして、その後、パネルに移っていきたいと思います。では、岡崎先生、よろしくお願いします。 岡崎直観氏（以下、岡崎）：ご紹介ありがとうございます。東京工業大学の岡崎です。スライドをめくっていただいてよろしいでしょうか。 私は東工大という大学にいますので、研究と
【特集】TVアニメ『義妹生活』放送記念特別企画 三河ごーすと×天﨑滉平×中島由貴スペシャル鼎談 3年半の時を経てアニメ化の伏線を回収へ
【特集】TVアニメ『義妹生活』放送記念特別企画 三河ごーすと×天﨑滉平×中島由貴スペシャル鼎談 3年半の時を経てアニメ化の伏線を回収へ MF文庫J発のTVアニメ『義妹生活』の放送開始を記念した特別企画として、原作者の三河ごーすと先生、浅村悠太役の天﨑滉平さん、綾瀬沙季役の中島由貴さんのお三方による鼎談をお届けします。2021年1月の書籍化を記念した鼎談より約3年半。かつての鼎談を締め括った合言葉「目指せアニメ化！」を見事実現した喜び、さらにアニメ化決定の裏話やYouTube版とアニメ版とで感じるキャラクターを演じる上での違いについてなど、様々にお話をお聞きしました。前回の鼎談を読んでいない方は、この機会にぜひそちらもチェック！ 【イントロダクション】 高校生・浅村悠太は父・太一の再婚をきっかけに、同い年の少女・綾瀬沙季とその母・亜季子と一つ屋根の下で暮らしていくこととなる。互いに両親の不仲
Advanced RAGをAmazon Bedrock Prompt Flowsで作成する - Taste of Tech Topics
はじめに 夏本番のこの時期、皆様のご様子はいかがでしょうか。新人エンジニアの木介です。暑さにも負けず、毎日一歩一歩成長しています。 今回は先日紹介したPrompt Flows for Amazon Bedrockを使ったAdvanced RAGの実装方法についての紹介を行っていきます。 Prompt flowsを用いることでDifyと同じようにLLMとプロンプトを組み合わせたフローをGUIで作成でき、また、AWS上の各種サービスへ簡単に組み込むことが出来ます。 aws.amazon.com acro-engineer.hatenablog.com はじめに 構築したアーキテクチャ 概要 Prompt Flows for Amazon Bedrockとは Advanced RAGとは Advanced RAGの構築方法 構築するワークフロー 1. クエリ拡張 2. Knowledge Bas
話題のGraphRAGとは - 内部構造の解析と実用性の考察
初めまして。経営企画本部AI推進室の鏡味、窪田、小林と申します。当社は本年度、AI推進室という新組織を発足させ、主に生成AIについての社内の利用促進、およびユーザーへ生成AIを活用したソリューションの提供を進めるべく、新技術の展開や検証を行っています。 今回は、最近話題となっている、Microsoftが発表したRAG（Retrieval Augmented Generation）技術であるGraphRAG ⧉について、元となる論文やブログ記事、GitHubのコードを元に内部の構造を解析し、さらに現時点でどの程度実用的かを考察していきます。 GraphRAGとは GraphRAGは、ナレッジグラフと生成AIの技術を組み合わせることで、従来のRAGでは対応が難しかった問い合わせに回答できるようになったRAGです。2024年2月にMicrosoftによって発表 ⧉され、その後、2024年7月にリ
RAGを専門用語に強くする手法「Golden-Retriever」
株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、RAGの性能を高めるための「Golden-Retriever」という手法について、ざっくり理解します。 この記事は何 この記事は、RAGシステムを専門用語に強くするための手法「Golden-Retriever」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 本題 ざっくりサマリー Golden-Retrieverは、RAG（Retrieval Augmented Generation）を、業界特有の用語・社内用語を含むような質問に強くするための手法です。カリフォルニア大学の研究者らによって2024年8月に提案されました。 従来のRAGシステム
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://x.com/K_Ishi_AI/status/1830433676657836532
- YouTube
https://x.com/ai_database/status/1830866243617988686?s=12
ぶる🦬 on X: "自然言語処理（LLM）まわりの最近の動向、この資料がよくまとまってそう（まだ読んでない） 今年6月下旬の資料だからまだ鮮度も良さげ https://t.co/L0TfWFPfny"
https://x.com/shunk031/status/1829558121737707599?s=12
https://x.com/k_ishi_ai/status/1829713284423172503?s=12
https://x.com/minorun365/status/1828595510602875190?s=12
Shinichi Takaŷanagi on X: "AWSよりデータ中心なRAGフローの提案(図引用)。文書からメタデータとQAペアを合成し、文書をクラスタリング。これらからMK(Meta Knowledge) Summaryを作成し、ユーザのクエリをMK Summaryで拡張し精度向上 Meta Knowledge for Retrieval Augmented Large Language Models https://t.co/tkTPmP9fgM https://t.co/2V8FVLfjLM"
https://x.com/ryuzee/status/1828554987825439011?s=12
https://x.com/nurruttan/status/1828396541884629204?s=12
https://x.com/_stakaya/status/1828410082415022461?s=12
https://x.com/hiro_gamo/status/1828446393234792558?s=12
https://x.com/ysk_motoyama/status/1828011076493226308?s=12
https://x.com/notf/status/1827497348924342675?s=12
https://x.com/ysk_motoyama/status/1827169124122017978?s=12