2023年8月に「AWS履修者のためのAzure入門」というタイトルで社内勉強会を開催しましたので、その時の資料を公開します。 今回はボリュームの関係から概念や権限・ユーザー管理周りとネットワークに関連するサービスのみ取り上げております。 何故勉強会を開催したかについては以下記事をご確認ください…

Use this article to learn about Azure OpenAI On Your Data, which makes it easier for developers to connect, ingest and ground their enterprise data to create personalized copilots (preview) rapidly. It enhances user comprehension, expedites task completion, improves operational efficiency, and aids decision-making. What is Azure OpenAI On Your Data Azure OpenAI On Your Data enables you to run adva

こんにちは、igaです。 ポケモンsleepを継続していますが、行ける場所が増えたことで新しいポケモンに出会えるようになりました。 今回は、Azure OpenAIのセキュリティを向上させるため、ネットワークのアクセス制限について確認してみました。 Azure OpenAIの利用制限 Azure OpenAIを利用するためには、通常、APIキーが必要になります。 APIキー自体、ランダムな数字と文字で生成されるもので、これだけでもある程度セキュリティは確保できるものの、もし、APIキーが外部に知られてしまうと、想定していない人や環境から、自社のAzure OpenAIにアクセスされてしまいます。 APIキーが万が一漏洩してしまった場合に、Azure OpenAIを不正に利用されないようにするため、ネットワークのアクセスを制限します。 Azure OpenAIへのネットワークアクセスを制限す

This repository contains a set of design patterns illustrating how to effectively build Agentic solutions powered by LLMs (Large Language Models) in Azure. Agentic AI systems are designed to autonomously pursue complex goals and workflows with limited direct human supervision. These systems act as independent agents, making decisions and performing tasks autonomously. The main capabilities of Agen

こんにちは、igaです。 先日は台風の影響が出る前に出かけられて、リフレッシュできました。 今回は、Azure OpenAIとチャットする際に、独自データを使用してみます。 独自データの使用（原文の表記はon your data）は、2023年8月現在パブリックプレビューとして利用できる機能です。 techcommunity.microsoft.com 独自データの使用（以降、on your dataと表記します）により、例えば企業内ドキュメントやFAQをAzure OpenAIに検索させることで、ユーザーからのチャットでの問い合わせに対して企業内ドキュメントやFAQを検索した結果をAzure OpenAIがチャットの応答として返すことができるようになります。 今回は、on your dataを利用するまでの流れを試したいと思います。 on your dataのポイント on your d

目次 はじめに 今回作成するシステムの概要 Azure OpenAI セットアップ Azure DevOps の Azure Repos をセットアップ Next.js でフロントエンド構築 Azure Static Web Apps へ Pipelines を用いて Deploy 動作確認 お片付け はじめに 昨今ちまたで話題の OpenAI。chatGPT はさらっと触ったけど、API までは触ってないなぁ…という方向けのハンズオン 🖐️ となります。 この記事の目標としては、OpenAI を触ってみたい全てのアゲアゲエンジニアがハンズオン出来ることです。 セットアップで詰まるところはどんどんコメント欄に質問していただいたら、がんがん返していきますので、ご遠慮なく質問してください！ では、Let's ハンズオン！ 今回作成するシステムの概要 今回作成するシステムは Azure 上で作

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

はじめまして、ますみです！ 株式会社Galirage（ガリレージ）という「生成AIに特化して、システム開発・アドバイザリー支援・研修支援をしているIT企業」で、代表をしております^^ この記事では「Azure Chatの概要と使い方」を解説します！ 生成AI界隈で、かなり注目されているOSSの一つなため、ぜひ最後までご覧ください^^ Azure OpenAI Serviceについてまだ知らない方は、下記の動画を先にご覧ください。 Azure Chatとは？ Azure Chat（旧Azure ChatGPT）とは、「ChatGPTをセキュアに利用するための法人向けのウェブアプリケーション」です。 Microsoftによって提供されているオープンソースで、「Azure環境で簡単に展開するためのパッケージ」と「ウェブアプリケーションのソースコード」が公開されています。このオープンソースを複製し

グローバルのクラウドインフラ市場シェア、AWSがトップ維持、Google Cloudの成長率が高い。2023年第2四半期、Synergy ResearchとCanalysの調査結果 調査会社のSynergy Research GroupとCanalysは、2023年第2四半期のグローバルにおけるクラウドインフラのシェアをそれぞれ発表しました（Synergy Research Group、Canalys）。 クラウドインフラとは、IaaS、PaaS、ホステッドプライベートクラウドを合わせたもの。 Synergy Research Groupはクラウドインフラにおける過去1年の市場成長率を18％としており、これは第1四半期の19％よりも下がったとして成長の鈍化を指摘しています。成長の鈍化はCanalysも同様に指摘しており、ここ半年以上、成長率が少しずつ低下傾向にあることは明らかです。 そうし

Microsoftは2023年8月7日（米国時間）、企業のAI活用を支援するAzure AIインフラストラクチャおよびサービスの新展開を発表した。発表されたのは、Azure AIインフラストラクチャ（以下、Azure AIインフラ）に含まれる「ND H100 v5」仮想マシン（VM）シリーズの一般提供開始と、「Azure OpenAI Service」のグローバル展開だ。 Azure AIインフラは、開発者がAzureプラットフォーム上でAI（人工知能）ベースの次世代アプリケーションを構築するために必要なシステム、ツール、リソースを提供する。「ND H100 v5 VM」は、NVIDIAの最新GPUと低遅延ネットワーク技術を搭載している。Azure OpenAI Serviceは、Azureプラットフォーム上でOpenAIの最先端の大規模言語モデル（LLM）である「GPT-4」や「GPT-

こんにちは、igaです。 台風が接近していて、外出の予定と重ならないかドキドキしています。 今回は、Azure OpenAI Service（以下、Azure OpenAIと記載します）で7月から利用できるようになった「Function calling」を試してみます。 Function callingとは、実行可能な関数を予め定義しておき、自然言語から実行すべき関数と引数を特定してくれる機能です。 OpenAIのAPIで、6月にリリースされた機能ですが、それがAzure OpenAIでも利用できるようになりました。 この機能のポイントは、「関数を呼び出す」ことではなく、「呼び出す関数（とその引数）を特定してくれる」ことにあります。 （名前が「Function calling」なのに、ややこしいですね） Azure OpenAIの利用開始方法とAPIの呼び出し方については、前回の記事を参考

背景 以前、ChatGPTを使って以下のようなものを作りました。 「 決算短信などのPDFファイルから分析に必要なデータを抽出し、Excelとして出力してくれる 」 機能的には気に入っていますが、実行がとても面倒くさいです 「 Pythonスクリプトを実行した後に、ChatGPTに入力して、出力をコピペして、、、 」といった感じですね。 そこで、自動化・パイプライン化したいなあと思い始めたのが今回の背景です。 自動化しようと思ったときに、Prompt Flowを使えるのではないかということで実装してみました。(Pythonだけでも実装可能だと思います。) Prompt Flowを使えば、Variantsを使って並列で色々なプロンプトを試せますし評価も可能です。 やること 今回やることの全体像は以下の通りです。 入力 ユーザがPrompt Flow対してファイル名を入力 Prompt Flo

はじめに この記事は、現在（2023年8月4日時点）パブリックプレビュー中のCognitive Searchのベクトル検索機能について、ベクトルDBの構築手順を解説する記事です。公式ドキュメントにはクイックスタート記事も公開されており、こちらのブログで日本語で丁寧に解説してくれています。 公式ドキュメントのクイックスタートを読んでいると、下記の課題に遭遇します。 PDFなどのドキュメントはどのように扱えばいいか？ チャンク分割やベクトル生成は具体的にどのように行えばよいか？ 言語アナライザーを日本にするにはどこを変えればよいか？ インデックスを自動更新するにはどうすれば良いか？ このような課題に対して、Azure公式のGitHubリポジトリにあるcognitive-search-vector-prにあるインデックス作成ツール(azure-search-vector-ingestion-py

日本マイクロソフトは、大規模言語モデル「GPT-3.5」などのAPIをクラウドサービス「Microsoft Azure」上で使える「Azure OpenAI Service」を、政府のクラウドサービス認定制度「ISMAP」に登録する方針だ。すでに監査は完了しており、申請書類も提出済み。早ければ8月末にもISMAPのリストに入る見込みという。 自民党が7月27日に開催した会合で、同社が使った資料から明らかになった。会合はLLM（大規模言語モデル）開発のための計算資源確保がテーマで、AWS日本法人も出席したという。資料は同じく会合に出席した塩崎彰久衆議院議員が自身のnoteで公開した。 ISMAPは、情報処理推進機構（IPA）などが民間のクラウドサービスの情報セキュリティ対策などを評価し、“政府認定クラウド”として登録する制度。各省庁は原則としてISMAPに登録された中からクラウドサービスを調

米Microsoftが7月25日（現地時間）に発表した2023年第4四半期（2023年4～6月期）の決算は、売上高は前年同期比8％増の561億8900万ドル、純利益は20％増の200億8100万ドル（1株当たり2ドル69セント）だった。 売上高、純利益ともにアナリスト予測（売上高は554億7000万ドル、1株当たりの純利益は2ドル55セント）を上回った。 部門別では、Azureやサーバー製品を担うIntelligent Cloud部門全体の売上高は15％増の239億9000万ドルだったAzureの売上高は26％増と好調だったが、クラウド部門全体の伸びは鈍化している。 サティア・ナデラCEOは業績発表後の電話会見で、「クラウド部門の年間売上高は1100億ドルを超え、為替変動の影響を除けば27％増加した。Azureの売上高が初めてクラウド全体の50％以上を占めた」と語った。ナデラ氏によると、「

皆さんこんにちは。データサイエンティストチームYAMALEXのSsk1029Takashiです。 YAMALEXは Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 この記事は「Prompt Flowを使ってRAGの回答を自動評価する」記事の続きの記事になります。 acro-engineer.hatenablog.com 前回記事では、Azure Machine Learning Prompt Flowを使って手動で回答を評価することはできたので、今回はファイルから複数回答の自動評価を検証してみます。 目次 おさらい 一括テストを使ってファイルのデータを対象に実行する データファイルを用意する 一括テストを設定・実行する 一括テストの評価結果を確認する まとめ おさらい まず、今回検証したい内容をおさらいします。 RAGのシス

皆さんこんにちは。データサイエンティストチームYAMALEXのSsk1029Takashiです。 YAMALEXは Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 Microsoft Buildを経て、AzureにもGPTを利用したサービスが数多く発表されており、LLMをサービスとして利用できる使い方増えていてワクワクしますね。 今回と次回の記事を通して、その中のサービスの一つであるAzure Machine Learning Prompt Flowというサービスを使ってRAG（Retrieval Augmented Generation）の回答を自動評価するシステムを試してみます。 この記事では、まずはPrompt Flowを使って手動で回答を評価してみるところまでを検証します。 ※RAGとは事前に知識を検索エンジンなどに

ユーザーの立場ではAIネイティブな働き方が身近に迫っており、データサイエンティストやMLエンジニアにとってはGPTを活用した開発を意識する必要が出てくる中、マイクロソフトの取り組みやML開発のパラダイムシフトをご紹介する「ChatGPTによって描かれる未来とAI開発の変遷」。ここで日本マイクロソフト株式会社の蒲生氏が登壇。まずは、テキスト生成過程におけるGPTの動きと、マイクロソフトの製品におけるGPT機能の組み込みの流れについて話します。 蒲生氏の自己紹介司会者：本日のセミナーは「ChatGPTによって描かれる未来とAI開発の変遷」として、日本マイクロソフトの蒲生さまに講演いただきたいと思います。蒲生さま、よろしくお願いいたします。 蒲生弘郷氏（以下、蒲生）：日本マイクロソフトの蒲生と申します。よろしくお願いします。本日は非常にたくさんの方に集まっていただいて、なんでこんなに集まったのか

Azure OpenAIにも本家OpenAIで人気だったFunction Callingの機能が使えるようになりました。 こちらのブログでも紹介されています。 Function calling is now available in Azure OpenAI Service API Referenceは日本語の更新はまだされておらず、英語で表示すると、Chat completionsの項目に2023-07-01　preview Swagger specの記載もあります。（2023年7月21日 日本時間15:00現在） Azure OpenAI Service REST API reference 2023-07-01-preview Swagger spec 追記） このFunction　callingは、0613バージョンのgpt-35-turboとgpt-4で利用可能です。 0301バ