Azure OpenAI Service On Your Data の仕組みと使う上で気を付けるべきポイント

はじめに Microsoft Build 2023 で発表された Azure OpenAI Service の On Your Data のパブリックプレビューが開始 しました。体感的には On Your Data は日本国内の全 Azure OpenAI Service ユーザーのうち 8 ～ 9 割程度のユーザーが待ち望んでいた機能ではないかと感じます。(ryohtaka 調べ) What's new in Azure OpenAI Service - June 2023 New easy way to add your data to Azure OpenAI Service (YouTube) しかし、実際に On Your Data を活用するためには気を付けるべきポイントが数多く存在しており、正確な期待値を持ったうえで使うことが非常に重要になってきます。そこで、本記事では On

[deejayroka]

“2 と 3 を選択した場合に Azure Cognitive Search のインデックスが自動作成され、アナライザーの言語が英語固定である点”

[sh2]

ここが難しい「すべてがこの最大トークンに収まるようなプロンプト設計と、ナレッジベースの整備 (短いチャンクに有益な情報が詰まっているデータの整備) が必要」

[darupants]

　[chatgpt]

[misshiki]

仕組みがすごくよく分かった。ナレッジベースが3種類選べるけど、結局、Azure Cognitive Search のインデックス作ることになり、Blobとか使うと英語でインデックスが自動生成される問題がある。日本語で使う人は必読。

[fog-og-frog2]

チャンクの作り方で試行錯誤が必要かぁ……

[shunkeen]

“REST API でのリクエスト時に最新のプレビュー版 API Version である 2023-03-15-preview を指定したうえで dataSources パラメータを与えることで、グラウンディング対象のナレッジベースを指定することができます”／まじかよ。

[takaya030]

on your data