RAGに関する主要な論文を時系列順にまとめていく(2024年度版)｜R
RAGに関する主要な論文まとめていきます。(過去の分含めて随時更新予定) 見つけたものからまとめているので、最新の2024年以降の論文多めです。 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(22/05/2022) 一言紹介❓ LLMって、事前学習された知識に関しては答えてくれるけど、最新のニュースだったり、専門的な情報や組織固有の情報には対応できないよなぁ 💡 外部知識をLLMに検索させよう!→RAGの誕生 Abstract日本語訳大規模な事前学習済み言語モデルは、そのパラメータに事実知識を蓄積し、下流の自然言語処理（NLP）タスクに微調整されたときに最先端の成果を達成することが示されています。しかし、知識をアクセスして正確に操作する能力は依然として限られており、知識集約型タスクでは、タスク固有のアーキ
Language and Robotics 研究会
2017-2019頃に活動しており、コロナ以降休止していたLanguage and Robotics研究会 (LangRobo研究会)を再開する運びとなりました。 自然言語処理分野とロボティクス分野の近年の融合と発展は著しく、身体を持つエージェントが人間と自然言語でコミュニケーションしながら環境内を動いたりといった研究も両分野において多く見られるようになってきました。言語におけるロボティクスの導入やロボティクスにおける言語の導入の価値は今後も高まっていくことが期待されます（詳しくは文献[1]をご覧ください）。 LangRobo研究会は、今後の自然言語処理とロボティクスの融合をどのように進めていくのが良いかを議論する交流の場として活動していきます。 [1] Survey on frontiers of language and robotics 参加受付（connpass） 開催日：2023
【LLM論文を読む】人間的なエピソード記憶を持つコンテキスト無限のLLM - ローカルLLM自由帳
言語モデルの「記憶」を管理する方法としては、１）追加学習や知識編集によってLLM自体の知識更新を試みる方法と、２）外部の記憶データから必要情報を適時検索してモデルに渡す方法、の2つの方向性があります。 この論文は後者の系統に属する研究で、人間のエピソード記憶のあり方を参照し、外部データを効果的に整理・検索することを目指した研究のようです。 タイトルは"Human-like Episodic Memory for Infinite Context LLMs"で、Huaweiの研究所とUCLの研究者らによって2024年7月に投稿されています。 arxiv.org 要旨 大規模言語モデル（LLM）は目覚ましい能力を示しているが、広範なコンテキストの処理にはまだ苦戦しており、長いシーケンスにわたって一貫性と正確さを維持する能力には限界がある。これとは対照的に、人間の脳は、生涯にわたる膨大な時間スケ
LangChain v0.2の使い方
はじめに ChatGPT などの AI API を活用し、AI エージェントなどを構築しやすくしてくれるフレームワークである LangChain 。これの最新のバージョンである v0.2 の使い方について、内部の実装なども交えながら解説していきたいと思います。 内部構造も把握しておくことで、どういうときにどこを見たらいいかなども分かるようになります。それ以外でも、LangChain Expression Language（LCEL）と言われる記法があり、それがどうして実現しているのかについても書こうと思います。 なお、今回扱うのは Python 版の解説となります。 LangChain v0.2 について LangChain は v0.1 から大幅に改修が入り、利用の仕方なども大きく変わっています。しかし、 v0.1 との互換性を極力維持した形で開発が進んでいるためすでに v0.1 で開発
LangChain入門(6) – Tool/Agent - 外部世界への橋渡し - Future Coders
ToolとAgentは生成AIが外部に働きかけるときの窓口のような働きをします。モデルの可能性を大きく広げてくれます。あらかじめ用意されているツールもありますが、自分で拡張することも可能です。今回はそんなツールとツールを活用するAgentについてみてゆきましょう。 本記事はFuture Coders独自教材からの抜粋です。変化の早い分野なので記事の内容が古くなっている可能性もあります。ご注意ください。 ToolとAgent 生成AIは単体でもいろいろなことができますが、外部の世界とやり取りをすることでより威力を発揮します。RAGで外部から情報を取得することで、特定の分野・領域に特化した対応ができるようになったのがその一例です。 RAGの場合は、「関連する情報を取得する」というように用途が予め決まっていました。しかしながら、もっと柔軟な対応が必要とされることもあるでしょう。 今日の天気や株価
OpenAI API の Structured Outputs の使い方｜npaka
以下の記事が面白かったので、簡単にまとめました。 ・Introducing Structured Outputs in the API 1. Structured Outputs昨年のDevDayで、「JSONモード」を導入しました。これは、OpenAIのモデルを使用して信頼性の高いアプリを構築しようとしている開発者にとって便利な構成要素です。「JSONモード」は、有効なJSON出力を生成するためのモデルの信頼性を向上させますが、モデルの応答が特定のスキーマに準拠することを保証するものではありません。本日、APIに「Structured Outputs」を導入します。これは、モデルによって生成された出力が、開発者が提供するJSONスキーマと完全に一致するように設計された新機能です。 複雑なJSONスキーマのフォローの評価では、「Structured Outputs」を備えた新しいモデル「g
OpenAIがJSON出力の際に100％の精度で特定のスキーマに従わせる機能をリリース
AIにデータを構造化させる際に、指定したスキーマに確実に従わせることが可能なモードをOpenAIがリリースしました。 Introducing Structured Outputs in the API | OpenAI https://openai.com/index/introducing-structured-outputs-in-the-api/ 構造化されていないデータを読み取り、構造化されたデータを出力するのはAIの主要なユースケースの一つです。これまでもOpenAIのAPIでは「JSONモード」という設定が存在しており、指定した構造を持つJSONをAIに出力させることが可能でしたが、必ずしも指定した構造通りのデータが出力されるとは限りませんでした。 今回リリースされた「gpt-4o-2024-08-06」モデルでは、strictを「true」に設定することで100％の精度で指定
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Adaptive RAG using local LLMs
How to Use FastAPI for Machine Learning | The PyCharm Blog
Announcing EAP for Vector Support in Azure SQL Database - Azure SQL Devs’ Corner
Home - Crawl4AI Documentation
Brain-inspired design for more capable and sustainable AI
GitHub - Cinnamon/kotaemon: An open-source RAG-based tool for chatting with your documents.
How to return structured output from a ReAct agent
GitHub - microsoft/prompty: Prompty makes it easy to create, manage, debug, and evaluate LLM prompts for your AI applications. Prompty is an asset class and format for LLM prompts designed to enhance observability, understandability, and portability for d
langchain-prompty
GitHub - BuilderIO/ai-shell: A CLI that converts natural language to shell commands.
LangGraph v0.2: Increased customization with new checkpointer libraries
AlloyDB and CloudSQL for PostgreSQL on LangChain on Vertex AI | Google Cloud Blog
Announcing Phi-3 fine-tuning, new generative AI models, and other Azure AI updates to empower organizations to customize and scale AI applications | Microsoft Azure Blog