こんにちは。電通総研コーポレート本部システム推進部の山下です。 最近はChatGPTなどのLarge Language Model(LLM)を利用したAIが話題ですね。 そのLLMを応用したRetrieval-Augmented Generation(RAG)という技術があります。 これは、LLMに文書検索などを用いて関連する情報を与えて回答させることで、 LLMが知識として持っていない内容を回答させたり誤った情報を答えてしまうハルシネーションを抑止する技術です。 今回はこのRAGをLlamaIndexというライブラリを使ってローカル環境で実装する方法について紹介します。 なぜローカル環境でLLMを利用したいのか 大変便利なツールのLLMですが、利用が難しいこともあります。 例えば、機密情報を取扱いたい、外部インターネットへの接続に制限が掛かっているといった場合です。 最終的にOpenAI
Grafeo¶ A fast, lean, embeddable graph database built in Rust¶ Get Started View on GitHub High Performance Fastest graph database tested on the LDBC Social Network Benchmark, both embedded and as a server, with a lower memory footprint than other in-memory databases. Built in Rust with vectorized execution, adaptive chunking and SIMD-optimized operations. Multi-Language Queries GQL, Cypher, Gremli
2023年のふりかえり - laiso
TL;DR 2023年に学んだ知識で2024年はマネーを獲得 2022年のふりかえり 2023年にやったこと After ChatGPT ChatGPTの使い方 コーディング自動化 アプリケーション開発 クラウドプラットフォーム関連 技術系の動画 フレームワーク関連 AWSコスト最適化大作戦 オライリー本 メインエディタをVSCodeに乗り換えた AndroidからiPhone 15 Proに乗り換えた OSSへの寄付 2023年にやりたかったこと 2024年にやりたいこと LLMを活用したアプリケーションを開発する 技術書を書く ニュースレターを配信する 動画を作る 事業を作る 2022年のふりかえり laiso.hatenablog.com laiso.hatenablog.com 2023年にやったこと After ChatGPT Chat Completions APIのリリースを
もはやChatGPTの話題がない日はありません。これまでの3回のAIブームとは異なり、AIの冬は来ないとされています。つまり、今のAIの流れを巻き戻すことができる人はいません。 そんな with GPT 時代において、フロントエンドエンジニアは、イマイマにおいては即死することはないけど、うまく振る舞わないと、数年後生き残れないかもしれないという状況は認識すべきです。 この記事ではフロントエンドエンジニアという観点に限定して with GPT 時代にどう生き残るかに焦点を合わせていきます。 ちなみにヘッダ画像は、Stable Diffusionさんに「サバイバル」というプロンプトだけ与えて生成した画像です。サバイバルできてなさそうですが、ちょっと可愛くてシュールです。 僕は「即座にAIが仕事を奪うことは、日本では二年以内にはない」けど、「AIによってアシストされたライバルによって、案件の数と
Building a serverless document chat with AWS Lambda and Amazon Bedrock | Amazon Web Services
AWS Compute Blog Building a serverless document chat with AWS Lambda and Amazon Bedrock This post is written by Pascal Vogel, Solutions Architect, and Martin Sakowski, Senior Solutions Architect. Large language models (LLMs) are proving to be highly effective at solving general-purpose tasks such as text generation, analysis and summarization, translation, and much more. Because they are trained o
LangChain の DynamicTool を使って DevelopersIO を参考に回答してもらった | DevelopersIO
背景 ChatGPT に独自の情報を元に検索して欲しいケースがあります。 embeddings を使って事前に情報をベクトル化し 検索した内容のベクトルと照会し、その情報を埋め込むようなアプローチもありますが、 事前に index を作成しておく必要があるため、下準備が必要なこと、膨大なデータ量の場合はコストがかかることが懸念されます。 LangChain の tool の中に Google 検索することができるので、その仕組みを知りたくなって調べてみました。 LangChain とは LangChain は LLM(Large language model) と LLM にはない他のソースや LLM にはできない計算方法を組み合わせることを目的としたライブラリです。 2023.03.18 時点では javascript, python で提供されています。 Agents とは LangC
AIニュースノート：nano-bananaが話題に、AGENTS.mdの採用広がる、Microsoft Copilotに3Dモデリング機能が追加、ChatGPTでプロジェクト専用メモリー搭載、Claude for Chromeの安全設計など gihyo.jpのニュース記事として取り上げていなかったもののなかから、直近の興味深いAIに関連するニュース概要を簡単にまとめてみました。 ※この記事は、不正確な内容を含んでいる可能性のある実験的コンテンツです。正確な情報はリンク先を確認してください。 nano-bananaの週でした nano-bananaこと、Gemini 2.5 Flash Imageがリリースされて、このモデルによる画像生成・編集が話題になった週でした。興味深い使い方やベストプラクティスも紹介されています。 “nano-banana”の舞台裏：対話×段階編
ChatGPT Plugin メモ
ChatGPT Plugin メモ 実現したいこと 自社製品のドキュメントを ChatGPT Plugin から利用できるようにしたい 運用は楽をしたい ドキュメントは頻繁に更新するので、更新したら自動で反映されるようにしたい 現時点での理解 OpenAI の Embeddings API を使ってドキュメントをベクトル化する ベクトル化したドキュメントをベクトルデータベースに保存する ChatGPT Plugin からベクトルデータベースにアクセスして、ベクトル化したドキュメントを取得する これを実現すれば良さそう。 TODO rst を効率よくベクトル化する方法 API で利用可能な トークンサイズ (8000 程度？) を超えている文章のときどう分割するか ChatGPT Plugin からベクトルデータベースへのアクセス方法 ChatGPT Plugin の登録方法 認証されていな
たまたま目にしたこれ スレに技術スタックが書かれているのだが ✅ Zep (@zep_ai) for conversation memory and building up key facts about each user; この「Zep」が気になって調べてみた。 公式サイト。クラウドサービスとして提供しているっぽい。 AIの基礎となるメモリレイヤー 平凡なものから途方もないものまで、タスクを完了するための知識をエージェントに与えます。 パーソナライズされた正確なAIエージェントを構築 ユーザーとビジネスデータから学習するメモリ Zepにチャットメッセージとビジネスデータのストリームを送信 Zepはナレッジグラフ上でインテリジェントにデータを融合します。 1回のAPIコールでエージェントに正確で適切なユーザ情報を提供します。 エージェントの時間的推論を可能に 事実の変化に応じて更新される
GitHub - taishi-i/awesome-ChatGPT-repositories: A curated list of resources dedicated to open source GitHub repositories related to ChatGPT and OpenAI API
awesome-chatgpt-api - Curated list of apps and tools that not only use the new ChatGPT API, but also allow users to configure their own API keys, enabling free and on-demand usage of their own quota. awesome-chatgpt-prompts - This repo includes ChatGPT prompt curation to use ChatGPT better. awesome-chatgpt - Curated list of awesome tools, demos, docs for ChatGPT and GPT-3 awesome-totally-open-chat
はじめに AI エージェントや RAG（検索拡張生成）にドキュメントを読み込ませたいとき、パース（テキスト抽出）の品質は地味に重要です。PyPDF や PyMuPDF のような定番ライブラリは高速ですが、テーブルやレイアウトが崩れてしまうことが多く、かといって VLM（Vision Language Model）ベースのパーサーは精度が高い反面、クラウド依存だったり GPU が必要だったりします。 そんな中、LlamaIndex チームが LiteParse というオープンソースのドキュメントパーサーを公開しました。LlamaParse のコア技術をベースに、ローカル環境で高速に動作する軽量パーサーです。 この記事では、LiteParse の概要と、実際に手元のファイルで試してみた結果を紹介します。 LiteParse とは LiteParse は、LlamaIndex が開発したオープン
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LlamaIndexを使ってローカル環境でRAGを実行する方法 - 電通総研 テックブログ
Grafeo - High-Performance Graph Database - Grafeo
with GPT時代にフロントエンドエンジニアが2年後に即死しないためのメソッド｜erukiti
AIニュースノート：nano-bananaが話題に、AGENTS.mdの採用広がる、Microsoft Copilotに3Dモデリング機能が追加、ChatGPTでプロジェクト専用メモリー搭載、Claude for Chromeの安全設計など | gihyo.jp
LLMアプリにグラフベースのメモリレイヤーを追加する「Zep」を試す
AI エージェントと RAG のお供に！ - ローカルで動く軽量ドキュメントパーサー LiteParse を試してみた - Qiita