【Amazon Bedrock】AWSサービスのみを使ったシンプル構成のRAGアプリを作ってみた - NRIネットコムBlog
はじめに RAGとは 構成図 作成リソース Lambda 1. PDFから文書抽出&Embedding取得Lambda 2. 回答作成用Lambda AWS SAM テンプレート Streamlit 動作確認 まとめ はじめに こんにちは堤です。 Amazon BedrockがGAとなり、AWS内で完結してLLMアプリケーションを構築できるようになりました。 試しにRAGアプリケーションを作成してみようと思いましたが、現状AWSでRetrievalするデータソースを作成しようとすると、Amazon OpenSearch Serverless やAmazon Kendraを使用するしかありません。これらのサービスを使うのはコストもそれなりにかかり少しハードルが高いなーと思っていたら以下のブログを見つけました。 aws.amazon.com 構成図を見ると分かるように、S3にembedding
高精度な生成系 AI アプリケーションを Amazon Kendra、LangChain、大規模言語モデルを使って作る | Amazon Web Services
Amazon Web Services ブログ 高精度な生成系 AI アプリケーションを Amazon Kendra、LangChain、大規模言語モデルを使って作る 2023/05/17: DocumentExcerpt の Request quota value を 1000 から 750 に修正しました 2023/05/18: Flan-T5-XL、Flan-T5-XXL、Anthropic Claude-V1、OpenAI text-davinci-003のtypoを修正しました Amazon Bedrock や Amazon Titan を通じて間もなく利用可能になるような生成系 AI（GenAI）と大規模言語モデル（LLM）は、開発者や企業が従来行っていた自然言語処理と自然言語理解に関連する複雑な課題の解決方法を変革しています。LLM が提供するメリットには、カスタマーサービス
LangChain では、 EmbeddingAPI を使って vector search とその結果を LLM に与えて QA Bot を構築したり、あるいは ChatGPT のような記憶・履歴(Memory)を実装して、自然な対話を行う便利なモジュールが揃っています。しかし、この Memory のオブジェクトを QA チェーンに入れても、それだけでは上手く動作しません。 そこで今回は、まず QA を一つの Chain オブジェクトで実行する方法と、さらに Memory を実装するについてです。 参考：https://python.langchain.com/en/latest/modules/chains/index_examples/vector_db_qa.html 参考：https://python.langchain.com/en/latest/modules/chains/i
2023年10月18日紙版発売 2023年10月18日電子版発売 吉田真吾，大嶋勇樹 著 B5変形判／280ページ 定価3,300円（本体3,000円＋税10%） ISBN 978-4-297-13839-4 Gihyo Direct Amazon 楽天ブックス ヨドバシ.com 電子版 Gihyo Digital Publishing Amazon Kindle ブックライブ 楽天kobo honto この本の概要 本書は，ChatGPTのAPIとLangChainを使って，大規模言語モデル（LLM）を本番レベルのシステムに組み込むための知識をステップバイステップで学習し，手を動かしながら実践できる書籍です。 生成AIが登場し，APIやフレームワークのエコシステムが充実してきたことによって，これまで機械学習やプログラミングの十分な知識が必要だったことに対してアプリケーション開発者が挑戦し
「LangChain」の「RetrievalQA」を試したので、まとめました。 ・LangChain v0.0.123 1. VectorDBQA と RetrivalQA「LangChain」を活用する目的の1つに、専門知識を必要とする質問応答チャットボットの作成があります。 これを行う主な方法は、「Retrieval Augmented Generation」と呼ばれる手法です。ユーザーの質問を言語モデルに直接渡すだけでなく、システムが質問への回答に関連するドキュメントを検索し、元の質問と一緒に言語モデルに渡して、応答を生成します。 1-1. 既存のシステムよく使われる検索手法は「セマンティック検索」です。この手法では、まずはじめにすべてのドキュメントを「埋め込み」(ベクトル表現) を計算し、ベクトルデータベースに格納します。そして、ユーザーの質問も同様に「埋め込み」を計算し、ユーザー
Building a serverless document chat with AWS Lambda and Amazon Bedrock | Amazon Web Services
AWS Compute Blog Building a serverless document chat with AWS Lambda and Amazon Bedrock This post is written by Pascal Vogel, Solutions Architect, and Martin Sakowski, Senior Solutions Architect. Large language models (LLMs) are proving to be highly effective at solving general-purpose tasks such as text generation, analysis and summarization, translation, and much more. Because they are trained o
import openai openai.api_type = "azure" openai.api_base = "https://<???>.openai.azure.com/" openai.api_version = "2023-03-15-preview" openai.api_key = "???" import openai from langchain.callbacks import get_openai_callback from langchain.chat_models import AzureChatOpenAI from langchain.schema import AIMessage, HumanMessage, SystemMessage with get_openai_callback() as cb: chat = AzureChatOpenAI( c
Quickly build high-accuracy Generative AI applications on enterprise data using Amazon Kendra, LangChain, and large language models | Amazon Web Services
AWS Machine Learning Blog Quickly build high-accuracy Generative AI applications on enterprise data using Amazon Kendra, LangChain, and large language models June 2023: This post was updated to cover the Amazon Kendra Retrieve API optimized for RAG use cases, and Amazon Kendra retriever now being part of the LangChain GitHub repo. This revision also updates the instructions to use new version samp
Retrieval
TL;DR: We are adjusting our abstractions to make it easy for other retrieval methods besides the LangChain VectorDB object to be used in LangChain. This is done with the goals of (1) allowing retrievers constructed elsewhere to be used more easily in LangChain, (2) encouraging more experimentation with alternative retrieval methods (like hybrid search). This is backwards compatible, so all existin
LangChain v0.1 の概要｜npaka
以下の記事が面白かったので、かるくまとめました。 ・Towards LangChain 0.1: LangChain-Core and LangChain-Community 1. はじめに「LangChain」 の目標は、LLMを使用したコンテキスト認識推論アプリの開発をできるだけ簡単にすることです。「LangChain」はこの1年でそれは大きく成長しました。 この成長により、パッケージのアーキテクチャの再考が余儀なくされました。 開発者のエクスペリエンスを向上させるために、古いlangchainパッケージを3つのパッケージに分割します。 ・langchain-core : 「Core」と「LangChain Expression Language」を含む ・langchain-community : サードパーティ統合を含む ・langchain : アプリの認知アーキテクチャの中核と
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ConversationalRetrievalChain で LangChain の QA にチャット履歴実装
ChatGPT/LangChainによるチャットシステム構築［実践］入門
LangChain の RetrievalQA を試す｜npaka
Azure OpenAI x LangChain サンプル集