2024年11月27日のブックマーク (2件)

  • Azure OpenAIのStreamで回答をスムーズに表示する方法 - JBS Tech Blog

    Azure OpenAIのStream機能を利用すると全ての回答生成の完了を待つことなく少しづつ結果を表示することができます。ChatGPTのような感じですね。 ただ、実際に使ってみると1文字ずつ表示されるのではなく、ある程度の文字の塊ごとに表示されるため、少し見栄えが良くないと感じました。 これを解消する方法を探していたところ、以下の記事を見つけました。 qiita.com 記事内ではJavaScriptを利用しているため、C#での実装方法について考えてみたいと思います。 環境 実装のポイント Queueクラス Timerクラス ソースコード 終わりに 環境 C# コンソールアプリ(.NET 8) Azure.AI.OpenAI 2.0.0 実装のポイント 今回の実装をするにあたり、ポイントとなるクラスは以下の通りです。 Queueクラス Streamで受け取った文字を一時的に格納して、

    Azure OpenAIのStreamで回答をスムーズに表示する方法 - JBS Tech Blog
    jbs_blog_PR
    jbs_blog_PR 2024/11/27
    Azure OpenAIのStream機能を利用し、生成される回答をChatGPTのように1文字ずつ表示する方法を解説しています。実際にC#のコンソールアプリを動作させたでも動画も掲載されているので、イメージしやすいですね!
  • Google Cloud Platform(GCP)でナレッジ検索の基盤を構築する - JBS Tech Blog

    記事では、Google Cloud PlatformGCP)を利用して、資料を格納し、それを検索するアプリケーションを構築する手順をご紹介します。 Cloud StorageにCSVファイルをアップロードし、Agent Builderを使用して検索機能を実装します。具体的には、タイタニック号の生存者データを例に、データの準備から検索アプリの構築、及びPythonによる検索方法までを説明します。 手順 前準備: APIを有効化する 資料を格納するストレージを準備する Cloud Storageに資料を配置する 手動でファイルをアップロードする プログラムからファイルをアップロードする 検索アプリを構築する データストアの作成 検索アプリの作成 検索アプリをPythonから使用する おわりに 手順 以下の手順により検索基盤を構築します。 前準備: APIを有効化する 資料を格納するストレー

    Google Cloud Platform(GCP)でナレッジ検索の基盤を構築する - JBS Tech Blog
    jbs_blog_PR
    jbs_blog_PR 2024/11/27
    Google Cloud Platform(GCP)を利用して資料を格納し、それを検索するアプリケーションを構築する手順を解説しています。具体的な手順とコード例が書かれていているので、実際に記事を見ながら作ってみたいですね!