XboxでStable Diffusionを動作させる猛者が登場、ONNX利用でPythonへの依存をゼロにしてNVIDIAのCUDA・AMDのROCm・AppleのCoreML・QualcommのQNN・MicrosoftのDirectMLでも動いてWindows・Linux・macOS・Android・iOS・WebAssemblyなど全てOK、ほぼあらゆるアプリケーションへの統合が可能に
Stable Diffusionは文字や画像を元に新たな画像を生成してくれるAIですが、実行環境としてPythonが必要とされてきました。そんな中、ONNXモデルおよびONNX Runtimeの活用とC++での実装でPythonへの依存をなくし、Xbox上で動作させることに成功した猛者が登場しました。 Stable Diffusion running on Xbox Series X and S for the first time - YouTube 左端の大きなアイコンが今回作成された「Unpaint」というアプリ。記事作成時点ではストアには存在せず、インストールするにはユーザーが自分でパッケージに署名する作業が必要になります。Xbox Series XおよびXbox Series Sのどちらでも動作可能とのこと。左の大きな画面にXbox Series Xの出力が表示されています。 起
Microsoftは米国時間2020年9月8日、Windows 10の機械学習向けAPIであるDirectMLを利用して、機械学習プラットフォームのTensorFlowを実行する「TensorFlow DirectML」をGitHubで公開したことを、公式ブログで明らかにした。TensorFlow DirectMLはWin32およびWSL(Windows Subsystem for Linux)2のPythonで動作し、バイナリーはPyPIから入手できる。同社の説明によれば、「TensorFlowはCPUおよびGPUを利用できるが、GPUアクセラレーションはベンダー固有のプラットフォームに限定され、Windowsや多様なハードウェアに対応していない」ため、DirectX上のDirectMLを利用するTensorFlowのフォーク版、TensorFlow DirectMLを2020年6月から
Open-sourcing TensorFlow with DirectML - Microsoft Open Source Blog
Following the release of our Developer Preview in June, today we’re announcing an exciting next step as we make the source code of TensorFlow-DirectML, an extension of TensorFlow on Windows, available to the public as an open-source project on GitHub. TensorFlow-DirectML broadens the reach of TensorFlow beyond its traditional Graphics Processing Unit (GPU) support, by enabling high-performance tra
はじめに 株式会社ピーアールオー（あったらいいな！を作ります） Advent Calendar 2022の3日目になります。 前日は 私の「Wingetで簡単！開発PCセットアップ（Windows）」でした。 MLをやってみたいけど MLを気軽に試してみたいけど、最大の障壁となるのはやはり高価なGPUが必要という点かと思います。PCゲームをやる方ならまだしも、そうでない人間には数万～数十万もするdGPU/eGPUを用意することは簡単ではありません。特にこの分野ではcudaコアを有するNVIDIAのGPUが一強という感じですが、まともに使えそうなボードをそろえようとするとやはり十万程度の出費が必要になります（この辺は諸説あるでしょうが・・・）。 もちろん、CPUのみで挑むというやり方もありますが、あまりに時間がかかるのはやはり敬遠しがちになります。また、クラウドGPUみたいなものもあるので、
C# と ONNX Runtime Generative AI (DirectML) を使って Phi-3 をローカルで動かす - しばやん雑記
Build 2024 では Windows などローカルのリソースを使って Generative AI を動かすという話が非常に多かったように、Keynote でも度々取り上げられた Phi-3 についても AWQ で 4-bit 量子化された DirectML で利用可能な ONNX モデルが公開されています。 セッションでも話がありましたが、Microsoft としては DirectML を使っておけば GPU / NPU の両方に対応できるようにするようなので、今後はローカルでの AI 利用は DirectML が主導権を握る可能性がありそうです。 現状 Hugging Face で公開されている DirectML に対応した Phi-3 の ONNX モデルは以下の 4 種類です。Phi-3 mini と Phi-3 medium の両方が利用可能になっていますが、残念ながら現時点
Introducing PyTorch-DirectML: Train your machine learning models on any GPU - Windows AI Platform
Dev BlogsWindows AI PlatformIntroducing PyTorch-DirectML: Train your machine learning models on any GPU The Windows AI team is excited to announce the first preview of DirectML as a backend to PyTorch for training ML models! This release is our first step towards unlocking accelerated machine learning training for PyTorch on any DirectX12 GPU on Windows and the Windows Subsystem for Linux (WSL). I
ONNX Runtimeを使ってみる その3(DirectML) - TadaoYamaokaの開発日記
ONNX RuntimeでDirectMLを使ってdlshogiのモデルの推論を行い、処理時間を比較してみた。 DirectMLを使えばAMDのGPUでも推論が実行できるようになる。 DirectMLプロバイダの使用 NuGetからビルド済みバイナリが取得できる。 Microsoft.ML.OnnxRuntime.DirectMLをインストールする。 DirectMLプロバイダを使用するにはソースに以下の行を追加する。 #include <dml_provider_factory.h> session_options.DisableMemPattern(); session_options.SetExecutionMode(ORT_SEQUENTIAL); OrtSessionOptionsAppendExecutionProvider_DML(session_options, 0); D
AMD/Intel GPUでもTensorFlowを高速化できるTensorFlow-DirectMLがTF2対応したらしい(まだプレビュー) - 端の知識の備忘録
概要 以前こちらの記事で書いたように、DirectXを介して機械学習系の演算を行うことで、CUDAが使えるnvidiaのGPUに限らず、DirectX12に対応するあらゆるGPUにおいて機械学習を高速化できるというmicrosoftのDirectMLというプロジェクトがある。(ただし、DirectXを使うことからわかるように、WindowsまたはWSLのみで利用可能であることに注意!) github.com このDirectMLを使った実例の一つとして、DirectMLによってTensorFlowを高速化した、tensorflow-directmlというパッケージが存在。TensorFlow 1.15互換で、CUDAのインストールのようなややこしい手順なしに、ただpip install tensorflow-directmlを実行するだけで、nvidia, AMD, Intelなどメーカー
GitHub - microsoft/DirectML: DirectML is a high-performance, hardware-accelerated DirectX 12 library for machine learning. DirectML provides GPU acceleration for common machine learning tasks across a broad range of supported hardware and drivers, includi
DirectML is a high-performance, hardware-accelerated DirectX 12 library for machine learning. DirectML provides GPU acceleration for common machine learning tasks across a broad range of supported hardware and drivers, including all DirectX 12-capable GPUs from vendors such as AMD, Intel, NVIDIA, and Qualcomm. When used standalone, the DirectML API is a low-level DirectX 12 library and is suitable
tensorflow-directml-plugin を使用して GPU でモデルを実行およびトレーニングするようにデバイスを構成する方法について説明します。 手順 1: 最小 (および最大) のシステム必要条件 TensorFlow-DirectML-Plugin をインストールする前に、Windows または WSL のバージョンで TensorFlow-DirectML-Plugin がサポートされていることを確認してください。 Windows ネイティブ Windows 10 バージョン 1709、64 ビット (ビルド 16299 以降) または Windows 11 バージョン 21H2、64 ビット (ビルド 22000 以降) Python x86-64 3.7、3.8、3.9、または 3.10。 バージョン 3.10 もサポートされている最大バージョンです。 サポートされ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
NPU対応の「DirectML」が登場 ～CPU統合のAIアクセラレーターで機械学習処理を省電力・高速に／開発者向けプレビュー、まずは新CPU「Intel Core Ultra」内蔵の「Intel AI Boost」で
次世代NPU「Intel AI Boost」で「DirectML」がサポートへ ～来年初めにも／「Intel Core Ultra」に搭載、今までGPUで行っていたAI処理をより高効率なNPUで
Windows 10での機械学習にTensorFlow DirectMLがOSS
DirectMLで試す、非NVIDIA系GPUで機械学習 - Qiita
クリエイターの負担を軽減！ Copilot+ PC×DirectMLを活用した先進AIを搭載するアプリ／「Adobe Premiere Pro」、「Capture One」、「Affinity Photo 2」のAI機能を紹介
TensorFlow 2 用 DirectML プラグイン