米Microsoftが、クラウド検索サービス「Azure Cognitive Search」の名称を変更した。新しい名前は「Azure AI Search」。価格体系やサービス内容に変更はない。 米Microsoftは11月15日（現地時間）、クラウド検索サービス「Azure Cognitive Search」の名称を変更した。新しい名前は「Azure AI Search」。価格体系やサービス内容に変更はない。 Azure AI Searchは電子メールやPDFなど、構造化されていないさまざまなデータを対象にできるクラウド型の検索サービス。大規模言語モデル「GPT-3.5」などのAPIをクラウドサービス「Microsoft Azure」上で使える「Azure OpenAI Service」と組み合わせることで、検索した資料を基にした回答ができるチャットbotの作成にも活用できる。改称は2度

マイクロソフトが自社AIチップ宣言。AIチップ戦国時代突入へ2023.11.16 20:00 Maxwell Zeff - Gizmodo US ［原文］ （ そうこ ） Microsoft（マイクロソフト）のカンファレンス｢Microsoft Ignite｣にて、サティア・ナデラCEOが自社AIチップについて語りました。 マイクロソフトのチップMaiaマイクロソフトのクラウドコンピューターAzure、AIのCopilot、そして大規模出資しているOpenAIのChatGPTの根幹を支えるチップを、自社のものに移行宣言したマイクロソフト。AIチップ｢Maia 100｣は、AIモデルのトレーニング用に使用される予定で、来年前半にAzureデータセンターから搭載していくとのこと。 チップ開発について、OpenAIのサム・アルトマン氏はこうコメント。 AzureのエンドツーエンドAIアーキテクチ

今年も始まりました、Microsoft Ignite 2023！本日発表された、CEOのSatya Nadella氏のキーノートを日本語でまとめました。ChatGPTが発表されてから1年が経過しました。 進化のペースは凄まじいものです。我々は新しい時代に入ろうとしています。ただの新しい技術に留まりません。 このAIの時代によって、製品を作ったり、安全性を考えたりと、実課題を解決しています。 Airbnb、Shopifyや、BTや電通などもMicrosoft Copilotを展開しています。そして、組織は独自のCopilotを作成しています。 そして、Copilotは非常に生産性を向上させています。より少ない時間で情報を集めたり、ミーティングを行ったりすることができます。 Copilot はタスクを素早くこなすことが可能になり、新しいUI（ユーザーインターフェース）として、世界のナレッジだけ

Microsoft、AI最適化チップ「Azure Maia 100」と汎用Armチップ「Azure Cobalt」：Microsoft Ignite Microsoftは2つのカスタム設計チップ、AIに最適化した「Maia 100」とArumベースの汎用「Cobalt 100」を発表した。「インフラストラクチャスタックのすべての層を最適化して統合することが重要」とガスリー氏。 米Microsoftは11月15日（現地時間）、開発者向け年次イベント「Microsoft Ignite」で、2つのカスタム設計チップ、AIに最適化した「Microsoft Azure Maia 100 AI Accelerator」（以下「Maia 100」）とArmベースの汎用「Microsoft Azure Cobalt 100 CPU」（以下「Cobalt 100」）を発表した。 Microsoftは現在、A

印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 日本マイクロソフトは10月23日、法人向け生成AIの取り組み状況について説明会を開催し、「Azure OpenAI Service」などの国内導入が少なくとも560社以上に達したなどと報告した。企業導入の現況を紹介するとともに、新たなパートナープログラムも予告した。 説明会の冒頭で執行役員 常務 クラウド＆AIソリューション事業本部長の岡嵜禎氏は、生成AIの企業導入が順調な理由として、汎用的なAIであること、推論エンジンの精度が高まっていることを挙げ、同社のクラウドサービスが企業での生成AIの活用を支えているとアピールした。 岡嵜氏によれば、マイクロソフトの生成AIサービスの導入は、グローバルでは1万1000社以上、国内では560社以上

Introduction Azure AI Landing Zones provide a solid foundation for deploying advanced AI technologies like OpenAI's GPT-4 models. These environments are designed to support AI enthusiasts, but it's essential to grasp their networking aspects, especially concerning Platform as a Service (PaaS) offerings. In this article, we'll dive into the networking details of OpenAI Landing Zones, focusing on ho

こんにちは、igaです。 先日、久しぶりにライブで声を出したらのどが枯れてしまいました。 前回に引き続き、Azure OpenAIのセキュリティを向上させるため、ネットワークのアクセス制限について確認します。 今回は、以前検証した独自データを使用する場合のネットワークのアクセス制限について確認します。 acro-engineer.hatenablog.com Azure OpenAIの構成 前回の構成で、Azure OpenAIに対してインターネットからのアクセス制限を行いました。 独自データ（原文の表記はon your data）を使用する場合、構築した直後はデータを保持するCognitive Searchがインターネット上のどこからでもREST APIによるリクエストが受信可能な状態になっています。 Cognitive Searchを利用するためには、通常、APIキーが必要になります。

Azure Chat Solution Accelerator powered by Azure Open AI Service Azure Chat Solution Accelerator powered by Azure Open AI Service is a solution accelerator that allows organisations to deploy a private chat tenant in their Azure Subscription, with a familiar user experience and the added capabilities of chatting over your data and files. Benefits are: Private: Deployed in your Azure tenancy, allow

IDチームの前田です。以前紹介したAzure ChatGPTがGitHub上で公開直後に非公開になっていましたが、大幅にアップデートされて、「Azure Chat」と名称を変更しGitHubで公開されたので、再びローカル環境で動かしてみました 三行まとめ Microsoft製のエンタープライズ向けのPrivate ChatGPTがAzure Chatと名称を変更し、機能のアップデートされて再度公開されたので、ローカルマシン(M2 Macbook Pro)で動かしてみました Azure ChatGPT検証時に問題となっていた日本語入力の不具合は解消済 日本語入力の不具合が解消されたので、ようやく業務用途で検証が可能になりました Azure Chat とは Microsoft製のAzure OpenAIを利用したエンタープライズ向けのAIチャットです 2023年08月にGitHub上で公開され

In July we shared with this audience that OpenAI Whisper would be coming soon to Azure AI services, and today – we are very happy to announce – is the day! Customers of Azure OpenAI service and Azure AI Speech can now use Whisper. The OpenAI Whisper model is an encoder-decoder Transformer that can transcribe audio into text in 57 languages. Additionally, it offers translation services from those l

こんにちは、igaです。 ポケモンsleepを継続していますが、行ける場所が増えたことで新しいポケモンに出会えるようになりました。 今回は、Azure OpenAIのセキュリティを向上させるため、ネットワークのアクセス制限について確認してみました。 Azure OpenAIの利用制限 Azure OpenAIを利用するためには、通常、APIキーが必要になります。 APIキー自体、ランダムな数字と文字で生成されるもので、これだけでもある程度セキュリティは確保できるものの、もし、APIキーが外部に知られてしまうと、想定していない人や環境から、自社のAzure OpenAIにアクセスされてしまいます。 APIキーが万が一漏洩してしまった場合に、Azure OpenAIを不正に利用されないようにするため、ネットワークのアクセスを制限します。 Azure OpenAIへのネットワークアクセスを制限す

背景 以前、ChatGPTを使って以下のようなものを作りました。 「 決算短信などのPDFファイルから分析に必要なデータを抽出し、Excelとして出力してくれる 」 機能的には気に入っていますが、実行がとても面倒くさいです 「 Pythonスクリプトを実行した後に、ChatGPTに入力して、出力をコピペして、、、 」といった感じですね。 そこで、自動化・パイプライン化したいなあと思い始めたのが今回の背景です。 自動化しようと思ったときに、Prompt Flowを使えるのではないかということで実装してみました。(Pythonだけでも実装可能だと思います。) Prompt Flowを使えば、Variantsを使って並列で色々なプロンプトを試せますし評価も可能です。 やること 今回やることの全体像は以下の通りです。 入力 ユーザがPrompt Flow対してファイル名を入力 Prompt Flo

日本マイクロソフトは、大規模言語モデル「GPT-3.5」などのAPIをクラウドサービス「Microsoft Azure」上で使える「Azure OpenAI Service」を、政府のクラウドサービス認定制度「ISMAP」に登録する方針だ。すでに監査は完了しており、申請書類も提出済み。早ければ8月末にもISMAPのリストに入る見込みという。 自民党が7月27日に開催した会合で、同社が使った資料から明らかになった。会合はLLM（大規模言語モデル）開発のための計算資源確保がテーマで、AWS日本法人も出席したという。資料は同じく会合に出席した塩崎彰久衆議院議員が自身のnoteで公開した。 ISMAPは、情報処理推進機構（IPA）などが民間のクラウドサービスの情報セキュリティ対策などを評価し、“政府認定クラウド”として登録する制度。各省庁は原則としてISMAPに登録された中からクラウドサービスを調

Azure OpenAIにも本家OpenAIで人気だったFunction Callingの機能が使えるようになりました。 こちらのブログでも紹介されています。 Function calling is now available in Azure OpenAI Service API Referenceは日本語の更新はまだされておらず、英語で表示すると、Chat completionsの項目に2023-07-01　preview Swagger specの記載もあります。（2023年7月21日 日本時間15:00現在） Azure OpenAI Service REST API reference 2023-07-01-preview Swagger spec 追記） このFunction　callingは、0613バージョンのgpt-35-turboとgpt-4で利用可能です。 0301バ

Over the last couple of years, we’ve learned just how powerful language models can be.  With the advent of gpt-35-turbo and gpt-4, these models can accomplish more than ever before and we're seeing customers be successful with an array of new scenarios. While these models are incredibly useful on their own, you can accomplish even more by integrating them with other systems and tools. Function cal

ChatGPTとLLMシステム開発について纏めた187ページ資料です。 2024/04 名称を改め資料を大幅にアップデートしました！ 今後も随時更新していきます。 データサイエンティスト協会での発表動画はこちら。 https://youtu.be/l9fpxtz22JU Build Japanでの発表はこちら。 https://youtu.be/UEZzx6a005g?si=Ot8EO2bv8yhQQEcy 2023/7/28 体裁修正、余計なページを削除 2023/12/12 RAG、API仕様、モデルのページを追加。また情報を最新化。 2024/04 名称を改め資料を大幅にアップデートしました！ 1. LLM - GPTの全体像 LLM - GPT とは何なのか ～チャットAIを例にした動作イメージ～ 大規模言語モデル(LLM)が持つ基礎能力 デジタルツールとLLMの連携 GPTに関す

マイクロソフトは日本時間7月19日未明から開催中のパートナー向け年次イベント「Microsoft Inspire 2023」において、Azure OpenAIをアジア地域のリージョンで提供することを発表しました。 サティア・ナデラCEOは基調講演で、Microsoft Azure上でOpenAI社の技術を用いてAIサービスを提供する「Azure OpenAI Service」の提供リージョンを拡大すると発表。 北米および西欧州での提供を拡大するだけでなく、アジア地域にも初めてAzure OpenAI Serviceの提供リージョンを設置することを明らかにしました。 このアジアのリージョンが具体的にどこなのかは記事執筆時点で発表されていませんが、すでに先週から一部のユーザーのあいだでは東日本リージョンでAzure OpenAI Serviceの提供が開始されていることが話題になっていました。

オープンソースで商用利用も可能な大規模言語モデル Llama 2はこのマイクロソフトの発表とほぼ同時にMetaが発表した最新の大規模言語モデルです。 オープンソースとして公開され商用利用も可能で、AI分野で高い実績を残してきたMetaが満を持して公開するモデルとして高い能力を備えていることが期待されています。 Llama 2はパラメータ数が7B、13B、70Bの3つのモデルに分かれており、Microsoft Azureではこの3つのモデルを現在パブリックプレビュー中のAzure AIモデルカタログから選択し、ファインチューニングし、デプロイが可能。 また、Windowsマシン上でもLlama 2が実行できるように最適化される予定です。 これらにより開発者は独自の生成的AIをMicrosoft AzureやWindows上で開発し、アプリケーションに組み込めるようになります。 マイクロソフト