Microsoft Power Virtual Agentsとは？バージョンや料金・使い方を解説 【自治体向け】Microsoft 365のローコード開発ツールを活用した、業務DXアプリの開発・運用支援の詳細はこちら Microsoft Power Virtual Agentsとは、マイクロソフトが提供する「AIチャットボット作成サービス」です。このサービスを利用すれば、企業の提供しているサービスや商品に合わせて、独自のAIチャットボットを作成できます。 Microsoft Power Virtual Agentsを利用すれば、顧客からの自動問い合わせや社内FAQとして利用できるため、以下のような効果が期待できます。 問い合わせ対応の自動化によるカスタマー部門の業務効率化 顧客対応の高速化による顧客満足度の向上 この記事では、Microsoft Power Virtual Agentsでで

はじめに 今回は表題の通り、Teamsから社内利用できるGPTボットについて、簡単に紹介していきたいと思います。 個人的な利用においてはChatGPTを既に使っている方も多いと思いますが、社内や業務での利用においては、ChatGPTへの社内情報等の入力はNGという企業が多く、基本的にはAzure OpenAI Serviceを使う事になるかと思います。 独自データをどう持たせてどの領域で活用していくか(Azure Cognitive Search, ベクトルストア等へのデータの蓄積と検索)という大きな論点はあるものの、とりあえず日常業務で使いたいからUIを早く解放して欲しいという声も多いのではないでしょうか？ 生成AIは、もはや影響しない領域はないと言っていいテクノロジーであるため、IT領域の一部のメンバーだけがユースケースを考えるというより、全社員が日常業務で利用しつつ(リテラシーを上げ

1. はじめに 前回、Teamsから社内利用できるGPTボットを作りましたが、今回はWeb検索と独自データ検索機能もつけていきたいと思います。 独自データ検索は、CSVやPDF、社内ウェブサイト等も利用可能で、テキスト系の情報検索だけでなく、データベース接続もやります。 2. アーキテクチャ 今回のアーキテクチャは以下です。 機能としては、「①一般問合せ」「②Web検索」「③社内情報検索」「④データアクセス」の4つを持たせ、ユーザーからのモード選択でそれぞれの処理へ分岐させています。 ①一般問合せは、GPTとの直接のやり取りのため、PowerAutomateからそのままAPIをコールさせ、②Web検索は、GoogleのCustom Search APIを利用し、最新情報も取れるようにしています。 ③社内情報検索は、テキスト系の社内情報を事前にインデックス化したものをAzure Blob S

LlamaIndex (GPT Index) is a data framework for your LLM application. Building with LlamaIndex typically involves working with LlamaIndex core and a chosen set of integrations (or plugins). There are two ways to start building with LlamaIndex in Python: Starter: llama-index. A starter Python package that includes core LlamaIndex as well as a selection of integrations. Customized: llama-index-core.

20240727追記 トークナイザーを自分で実装してBM25に渡す方法は、以下のコミットで使えなくなった。 https://github.com/run-llama/llama_index/commit/3f83323a3f006fd13847bb75013c454a820cd37c bm25sライブラリを使うのにあわせてtokenizerオプションが削除され、bm25sとpystemmerを渡すようになっているのだが、ともに日本語に対応していないと思う。。。 古いバージョン（llama-index-retrievers-bm25==0.1.5、LlamaIndex本体のバージョンタグはv0.10.52）を使うしかないのかな？ちょっとBM25s側で日本語を組み込めないかを確認してみる。 20240727追記 BM25sをざっくり見てみたけども、LlamaIndexでも使えるようにするには、

LLAMAーINDEX実験記録＆マニュアル LLAMA-INDEXは、公式ドキュメントに記載がない、あるいは機能アップデートによって、GITHUBのみに記載するコードが多数あります。このライブラリーの使い方について、ChatGPTもわからないですので、実験が苦労しました。 故に、このマニュアルは、基本的なLLAMA-INDEXの使い方から、高度の使用まで紹介させていただきたいと思います。 基本紹介 LLAMAーINDEXは、AIのメモリとして設計されています。自身は言語機能がなく、ChatGPTやLLAMA2などのAPIが必要です。 基本デザインは、Promptの中に全ての知識を書き切れない場合、ベクトルデータセットを使用し、素早くPromptに関係あるデータを抽出して、Promptの中に入れます。 例えば、辞書データの中に特定の単語の使い方を抽出することなどができます。 ただし、それは万

今回は、StreamlitとOllama Pythonライブラリを使用して、ローカルLLMを動かしてみます。 ChatGPT風の画面みたく、ユーザがPromptを入力して、クリックしたら、Ollama PythonライブラリでローカルLLMを操作して出力を得るコードとなります。 今回は、手順に従って行けば、誰で出来るようにしてあります。 最初に、OllamaとStreamlitライブラリをインストールします。 pip install ollama streamlit 次に、app.pyとして次のファイルを作成を作成します。 import streamlit as st import ollama # Streamlitアプリケーションのタイトル st.title('Ollama Chatbot') # ユーザの入力を受け取るテキストボックス user_input = st.text_inp

streamlitを使えばWebアプリケーションが簡単に作成できます。 この記事では、streamlitでよく使う機能をサンプルコードと共に紹介し、それらを組み合わせたWebアプリケーションの作成方法を紹介していこうと思います。 目次 1. はじめに 2. streamlitの基本的な使い方 3. streamlitの応用的な使い方 4. テキストマイニングアプリを開発してみる 5. streamlitの注意点 6. まとめ 1. はじめに streamlitはPythonで簡単にWebアプリケーションを作成できるオープンソースのライブラリです。streamlitを使うことで、データの可視化や機械学習モデルのデバッグ、プロトタイプの作成など、様々な用途でWebアプリケーションを作成することができます。 また、streamlitは簡単なコードで高度なUIを作成することができ、ウェブフレームワ

Pythonの基礎を習得済みの方向けに、外部データを使うLlamaIndexの基本的な使い方を段階的に解説していきます。 Streamlitとは？まずは、今回使用するStreamlitについて簡単に説明します。Streamlitは、WEBアプリを簡単に作れるPythonライブラリです。HTMLやCSSの知識がなくても、PythonコードだけでインタラクティブなWEBアプリを作成できます。 Streamlitの特徴 WEBアプリが簡単に作れる HTML、CSSの知識が不要 デプロイが簡単 サーバー使用料が無料（Streamlit Community Cloud） 小さな組織やチームでのアプリ共有に最適 今回の内容今回は、LlamaIndexを使って外部からデータを取り込み、ChatGPTと連携してQ&AができるWEBアプリを作成します。 具体的には、外部データとしてテキストファイルを読み込み

import streamlit as st import os import pickle import faiss import logging from multiprocessing import Lock from multiprocessing.managers import BaseManager from llama_index.callbacks import CallbackManager, LlamaDebugHandler from llama_index import VectorStoreIndex, Document,Prompt, SimpleDirectoryReader, ServiceContext, StorageContext, load_index_from_storage from llama_index.chat_engine import

以下の記事が面白かったので、簡単にまとめました。 ・LlamaIndex v0.10 1. LlamaIndex v0.10「LlamaIndex v0.10」は、過去最大のアップデートです。 「LlamaIndex」が次世代の本番環境に対応したLLMアプリケーションフレームワークになるための大きな一歩となります。 主なアップデートは、次のとおりです。 ・llama-index-coreを作成し、Integrationを個別パッケージに分離 ・全IntegrationをLlamaHubで管理 (移行作業中) ・ServiceContext は非推奨 2. llama-index-core を作成し、Integration を個別パッケージに分離「LlamaIndex」は、何百もの「Integration」を含む広範なツールキットに進化しました。 ・150以上の データローダー ・35以上の

以下の記事が面白かったので、軽くまとめました。 ・LlamaIndex - High-Level Concepts 1. はじめに「LlamaIndex」は、カスタムデータを使用してLLMを利用したアプリケーション (Q&A、チャットボット、エージェントなど) を構築するためのパッケージです。 この記事では、次の事柄を紹介します。 ・LLMとカスタムデータを組み合わせるための「RAG」(Retrieval Augmented Generation) パラダイム ・独自のRAGパイプラインを構成するためのLlamaIndexの主な概念とモジュール 2. RAG (Retrieval Augmented Generation)「RAG」(Retrieval Augmented Generation : 検索拡張生成) は、カスタムデータでLLMを拡張するためのパラダイムです。 通常、次の2段階

Llama Index 0.9.13 memo 2023/12/10 時点の公式ドキュメントの和訳・要約 英語苦手な人向け とりあえず概要を知りたい人向け OpenAI のAPI KEY があるとスムーズ Llama Index Tutorial Getting Started Installation and Setup Pipからのインストール pip install llama-index コマンドを使って、LlamaIndexをインストールします。 注意：LlamaIndexは、NLTKやHuggingFaceなどの様々なパッケージのローカルファイルをダウンロードして保存する場合があります。これらのファイルが保存される場所を制御するために、環境変数 LLAMA_INDEX_CACHE_DIR を使用します。 ソースからのインストールも選択できますが、その方法は後述します。 Open

ollama-pythonはPython環境でOllamaが使える無料のライブラリです。 ollama-pythonを利用すれば、ローカルLLMをAPIで簡単に活用できたり、RAGやエージェントへの統合も柔軟に行えます。 この記事では、ollama-pythonの環境構築からモデルを使ったテキスト生成の方法まで紹介します。

この記事で紹介すること dockerを用いてOllamaとOpen WebUIをセットアップする OllamaとOpen WebUIでllama3を動かす 環境 OS: Ubuntu 22.04.4 LTS docker version : version 25.0.5, build 5dc9bcc GPU: A100 80G × 6, A100 40G × 2 Ollamaのセットアップ

v0.10 では大規模アップデートがありました。 ・llama-index-coreを導入し、Integrationを個別パッケージに分離 ・ServiceContextは非推奨 ・全IntegrationをLlamaHubで管理 2. LlamaIndexの5つのステージ「LlamaIndex」には、5つのステージがあります。 2-1. Loadingデータソース (テキストファイル、PDF、Webサイト、データベース、APIなど) からデータを読み込みます。 「Loading」の主要コンポーネントは、次のとおりです。 ・Document : データソースのコンテナ ・Node : Documentを分割したもの。チャンクとメタデータが含まれる ・Connector : データソースからDocumentおよびNodeを取り込むモジュール 2-2. Indexingデータのクエリを可能にす