Baseline OpenAI end-to-end chat reference architecture - Azure Reference Architectures
Enterprise chat applications can empower employees through conversational interaction. This is especially true due to the continuous advancement of language models, such as OpenAI's GPT models and Meta's LLaMA models. These chat applications consist of a chat user interface (UI), data repositories that contain domain-specific information pertinent to the user's queries, language models that reason
Azure OpenAI アシスタント コード インタープリターを使用する方法 - Azure OpenAI
コード インタープリターを使うと、Assistants API はサンドボックス実行環境で Python コードを記述して実行できます。 コード インタープリターを有効にすると、アシスタントはコードを繰り返し実行して、より困難なコード、数学、データ分析の問題を解決できます。 アシスタントは、記述したコードの実行が失敗したら、コードの変更と変更したコードの実行を、コードの実行が成功するまで繰り返すことができます。 重要 コード インタープリターを使うと、Azure OpenAI の使用に対するトークン ベースの料金の他に、追加料金が発生します。 アシスタントが 2 つの異なるスレッドでコード インタープリターを同時に呼び出すと、2 つのコード インタープリター セッションが作成されます。 既定では、各セッションは 1 時間アクティブです。 Note ファイル検索では、アシスタントあたり最大
OpenAIとMicrosoft Graph Search APIでM365の組織内データを検索するRAGアプリを作る
共著者：@maruryupro / @kazuyan 社内ナレッジを検索するRAGアプリを作ろうとする場合、さまざまな文献でAzure AI Search(旧称Cognitive Search)を使うケースを多く目にします。Azure AI Searchは非常に高機能で組織専用の検索エンジンを作ることができる一方、データの前処理やインデクサーのカスタマイズなど様々なテクニックが必要になり、実現したいこととコストのトレードオフが発生するケースが多いように感じます。 この記事では、M365テナント内の情報をWeb API経由で検索できる「Microsoft Search Graph API」を使って、専用のインデックスを作成する必要なく社内の情報を検索してOpenAIを通したチャット形式で返答するRAGアプリの実装アプローチについて紹介します。 TL;DR サンプルアプリのリポジトリ とりあえ
Azure OpenAI Service リファレンスアーキテクチャからみる本番システムレベルの LLM アプリに必要な検討項目の解説 / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps #serverlessdays #serverlesstokyo
ServerlessDays Tokyo 2023 で Azure OpenAI Service リファレンスアーキテクチャからみる、本番システムレベルの LLM アプリに必要な検討項目の解説 / From Azure OpenAI Reference Architecture to Production-Ready LLM Apps というタイトルで紹介しました HP: https://tokyo.serverlessdays.io/ Ticket: https://serverless.connpass.com/event/290640/ #serverlessdays #serverlesstokyo
Azure OpenAIの「Add your data」で出来ること出来ないこと
この記事の主題ではないので簡単に説明しますが、PaaSへのアクセスを閉域化するのがPrivate Endpoint、PaaSからのアクセスを閉域化するのがVNet統合です。 非対応だった以前までの内容 では、登場人物全てが閉域化に対応しているのに、なぜ「Add your data」は閉域化できないのでしょうか。それはAzure OpenAIからCognitive Searchへの通信が執筆時点ではパブリックのみになっているからです。「Add your data」の仕組み図を閉域ネットワーク的に書き換えると以下の図のようになります。 ネットワーク閉域化をしている場合、インターネットからのアクセスを遮断するのでAzure OpenAIからのインターネット経由のアクセスができなくなります。そのため、執筆時点では「Add your data」は閉域化できないということになります。Azure Ope
CTOの視点から見たAzure OpenAI ServiceとOpenAIのChatGPT APIの深堀り比較 - Qiita
※ この記事の内容は先日のQiita Nightでお話ししたことと一部重複します。 Qiita NightではLTの制限時間(10分)に収めるため、結構端折りました。 はじめに ChatGPTが登場してから数ヶ月が経ちました。 ChatGPTをはじめとしたGenerative AIは完全に現在のIT業界のトレンドとなっています。 今や多くの企業でChatGPT APIをサービスに組み込んで顧客提供を開始したり、自社の社内システムに組み込んだりと積極的に利用するようになりました。 私もGenerative AIが無くなると業務に支障が出るレベルで利用しています。 そして、2023年5月時点ではChatGPTのAPIを利用する方法として、本家OpenAI社が提供しているAPIを利用する方法とMicrosoft社が提供しているAzure OpenAI ServiceのAPIを利用する方法の2つが
Azure OpenAI Developers セミナー
Microsoft のパートナー企業に所属するエンジニア、デベロッパーを対象に、Azure OpenAI Service の最新のアップデート情報、開発手法、応用開発、ソリューションアーキテクチャを紹介します。 【目標】 こちらのオンライン イベントでは、以下の 2 点を目標にしています。 ① Azure OpenAI Service のエンジニア向け情報、最新情報をキャッチアップする ② ChatGPT, GPT-3 / 3.5, Embeddings モデルを使ったソリューション開発手法を学ぶ 【コース内容】 Azure OpenAI の開発者向け情報を下記の各カテゴリにわけて解説します。 - Azure OpenAI の位置づけ - GPT-3 / 3.5, ChatGPT, Codex, DALL・E のモデル解説と開発情報 - Prompt engineering - Emb
ChatGPT is now available in Azure OpenAI Service | Microsoft Azure Blog
Today, we are thrilled to announce that ChatGPT is available in preview in Azure OpenAI Service. With Azure OpenAI Service, over 1,000 customers are applying the most advanced AI models—including Dall-E 2, GPT-3.5, Codex, and other large language models backed by the unique supercomputing and enterprise capabilities of Azure—to innovate in new ways. Since ChatGPT was introduced late last year, we’
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Azure OpenAI Service 入門ハンズオンラボ
GitHub - microsoft/chat-copilot