外部データをRetrievalしてLLM活用する上での課題と対策案 - ABEJA Tech Blog
はじめに ABEJAでデータサイエンティストをしている服部です。 今回はLLMで外部データを使うケースについてのお話をしたいと思います。 はじめに LLMと外部データの利用 RetrievalとLLM 0. (事前準備)参照したいテキストデータをDBに格納 1. ユーザの入力文とのテキスト類似度を計算して、関連テキストを抽出する(Retrieval) 2. 関連テキストをLLMのプロンプトに入れ込み、ユーザの入力文に回答する。 Retrieval時の課題 LangChainでの用意 Case1: それぞれの文章がRetrievalしにくい形で保存されている 対策案: ページ構造を意識した形で各文章を格納する 他の対策案 聞き方を明確にする 類似度を測るクエリ文章を置き換える 不要そうな文章をデータから削除する データ自体をLLMで整形し直す Case2: 未知の単語を含む 仮説: ニャオハ
Introducing new and updated models to Azure OpenAI Service
From Mercedes-Benz enhancing their in-car experiences to AT&T using these models to empower their employees we’re seeing customers innovate with Azure OpenAI Service like never before. The gpt-35-turbo and gpt-4 models have been a catalyst for widespread adoption of large language models (LLMs), and we’ve seen tremendous ingenuity from our customers in virtually every industry. We’re excited to an
Kubernetesクラスターにおけるボリューム：アーキテクチャ、原則、および機能 - Qiita
シニアテクニカルエキスパートであるKan Junbaoが、Kubernetesクラスターにおけるボリュームのアーキテクチャ、原理、機能を大きく3つのパートに分けて紹介します。 著者：アリババのシニアテクニカルエキスパート、Kan Junbao（Junbao）氏 コンテナストレージは、データの永続性を提供するKubernetesの基本コンポーネントであり、ステートフルなサービスにとって重要な保証となります。デフォルトでは、Kubernetesは主流のボリュームアクセスソリューションであるIn-Treeと、他のストレージサービスがKubernetesサービスにアクセスできるようにするプラグインメカニズムであるOut-Of-Treeを提供します。この記事では、Kubernetesのストレージアーキテクチャと、ボリュームプラグインの原理と実装について説明します。 1、 Kubernetesのストレ
🪵 Go1.21 log/slogパッケージ超入門
はじめに 2023年8月9日(日本の場合)Go1.21がリリースされました🎉。Go1.21ではさまざまな変更点や追加機能が加わります。その中でもGo標準ライブラリに導入される構造化ロギングパッケージlog/slog(以下、slog)を楽しみにしている方は多いのではないでしょうか？ 本稿では、slogを実際に触りつつ、機能の解説をしていきます。 TL;DR 本稿の概要をスライドにもまとめているので、ご参考にして下さい。 従来のlogパッケージについて slogの説明に入る前に、Go標準のlogパッケージについて簡単に紹介する。logパッケージを用いると、 io.Writer インターフェースを実装する任意の型にログメッセージを書き込むことができる。しかし以下のような制限があった。 ログレベルをサポートしていない ログレベルはほとんどのログパッケージの定番機能の一つだが、logパッケージには
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
