sh19910711のブックマーク - はてなブックマーク

sh19910711 id:sh19910711

ブックマーク / qiita.com/moritalous (3)

Amazon BedrockにCohere Command R と Command R+ が来たよ！RAGがすげーよ！ - Qiita
Amazon BedrockにCohere Command R と Command R+ が来たよ！RAGがすげーよ！AWSragbedrockCohereCommand-R+ GW真っ只中の4/30、Amazon BedrockにCohere Command RとCommand R+がやってきました！！🎊🎊🎊 Command R+はただのテキスト生成の枠を超えたAPIになっています！（と勝手に解釈しています！！）いろいろ特徴がありそうですが、まずは、RAGをやってみました。なにがすごいの？ Command R+のInvoke ModelのBodyが特徴的で、 documentを渡す専用項目があります。
sh19910711 2024/05/01
"BedrockにCohere Command RとCommand R+がやってきました / search_queries_only: 検索クエリの生成に特化したAPI / Command R+: Invoke ModelのBodyが特徴的でdocumentを渡す専用項目があり + レスポンスにはcitationsという項目"

*program

aws

prompt

search
リンク
LangChainをAPI化するLangServeをLambda上で動作させるのはめちゃ簡単デス - Qiita
少し前にLangChain開発元から新しいツールとしてLangServeというものがリリースされています。 LangServe is the easiest and best way to deploy any any LangChain chain/agent/runnable. 生成系AIを使ったAPIを簡単に作成し利用できる仕組みで、プロダクション環境でどんどんLangChainを使ってねというメッセージと捉えました。イメージとしてはこんな仕組みです。 FastAPI上で動作し、API仕様が定められている感じです。 Invoke API 単一の入力で処理を実行する Batch API 複数の入力で処理を実行する Stream API 単一の入力で処理を行い、結果をストリームで返却する Stream_log API 単一の入力で処理を行い、結果だけでなく途中の経過もストリームで返却す
sh19910711 2024/02/19
"LangServe: 生成系AIを使ったAPIを簡単に作成し利用できる仕組み + FastAPI上で動作 / Lambda Web Adapter: AWS製 + FastAPIのLambda化を行う便利なライブラリー / Lambda: Python 3.12ランタイムはBoto3のバージョンが1.28.72のため、Bedrockに対応"

*program

python

*infra

aws
リンク
Amazon BedrockのEmbeddingsを試しました。（良さげです） - Qiita
Amazon BedrockのEmbeddingsを試しました。環境 Ubuntu 22.04 (.devcontainer) Python 3.10 VSCode + Python拡張 + Jupyter拡張ライブラリーのインストール %pip install -q -U \ boto3==1.28.57 \ langchain==0.0.303 \ unstructured \ qdrant-client
sh19910711 2023/10/23
langchain.embeddings / "Bedrock Embeddingsを作成。使用するモデルはAmazon Titan Embeddings / Qdrantというベクトルデータベースを使用 + 実態はSQLiteのようです"

*infra

aws

*program

prompt
リンク
1