マイクロソフト、ローカルAI環境をインストーラで配布できる「Foundry Local」正式リリース。MacやLinuxにも対応

マイクロソフト、ローカルAI環境をインストーラで配布できる「Foundry Local」正式リリース。MacやLinuxにも対応 マイクロソフトは、アプリケーションにバンドルしてインストーラで配布できるコンパクトなローカルAI環境「Foundry Local」の正式リリースを発表しました。 開発者はアプリケーションにFoundry LocalのAI環境をバンドルしてインストーラで配布できるため、クラウドなどに依存せず、ユーザーによる設定や追加導入なども不要な、ローカルで完結するAIソリューションをユーザーに提供できるようになります。 ハードウェアに最適化、多数のAIモデルから選択 Foundry Localは、その内部にあるAIモデルのランタイムとしてONNX RuntimeとWindows MLが利用され、その上にFoundry Catalogから選択可能なさまざまなAIモデルを載せるこ

[cloverstudioceo]

lmstudioを潰しに来たかー。なんか、結局MSがコピー版を出せば企業が使ってシェア1位になる構図だよね

[hevohevo]

クラウドでの議事録作成が禁止されている企業は多いので、ローカルAI（Whisper＋LLMによる音声認識と要約）の需要は確実にある。 Microsoft がこうしたローカル実行環境をパッケージとしてサポートし始めたのは大きい。

[rgfx]

うんまあ、これにCopilot Localとか名付けしないだけまだ正気に戻ってるかもって感じかな

[hogeaegxa]

みんながMS(OS)に求めてるのはメモ帳やペイントにCopilotメニュー付けることでは無く、こういうことだとようやく気が付いたか。自分とこのCopilot使ってリサーチしてれば、こんな迷走せずすぐわかった気もするが

[nilab]

「Foundry Localは、その内部にあるAIモデルのランタイムとしてONNX RuntimeとWindows MLが利用され、その上にFoundry Catalogから選択可能なさまざまなAIモデルを載せることができます」

[strawberryhunter]

ちょっとわかりにくいけど、対応言語にC++が入っていないのはSDKの対応言語だからで、SDKを使うとベンダーロックインされる罠付きってところだろうか。普通に考えてOpenAI APIで接続する以外の選択肢はないだろう。

[solidstatesociety]

npmをラップしてるだけだったら議論出るかも

[fashi]

「対応するプログラミング言語はJavaScript、C#、Python、Rust」 / llama.cppみたいなものかな / 画像生成系はないのか…

[rdlf]

これインストーラーのサイズが謎にデカくなりそうだな…あとアプリケーションごとに違うモデルが動くという地獄も起きそう。macOSの場合は貧弱でもApple Foundationモデルを使うようにして欲しい。

[tmatsuu]

クロスプラットフォーム対応をMicrosoftがリリースする時代なんだな。「対応するプログラミング言語はJavaScript、C#、Python、Rust」もうちょっとアレもコレもサポートしていただけると助かります。

[misshiki]

MicrosoftがローカルAI環境「Foundry Local」を正式リリース。アプリにバンドルして配布でき、ONNX Runtime/Windows ML、OpenAI互換API、JavaScript/C#/Python/Rust対応、Mac・Linux対応。

[eagleyama]

選択肢増えたなぁ

[toaruR]

LM StudioやOllamaより、SDK寄りなのかな

[andonut146]

ベリグー

[messzylinder]

AI版のGreengrassみたいなもの？

[hecaton55]

要求スペックはLMStudioなどと同等かな？お堅いところはこれで導入の糸口になるか

[kibitaki]

はえー。

[mayumayu_nimolove]

あとで

[ibusuke]

基幹システムをモダナイズする理由が一つ増えた。

[nguyen-oi]

ローカル推論の配布がここまで手軽になるとか胸熱すぎる。配布サイズが気になるけどな

[crimson_diamond]

ゆくゆくはHugging Face潰し？