RVC+VC Clientでリアルタイム音声変換してDiscordに参加する話(SoXを使った素材集めの話も) - 圧倒的成長記録
流行りのAIブームがボイスチェンジャーにもやってきました。 RVCとVC Clientを組み合わせることによって、リアルタイムでAIボイスチェンジャーを利用することができます。 声質は自由自在、学習させたい声の音声ファイルを用意すれば誰だって好きな声で喋ることが可能です。 男性ボイスを女性ボイスに変換した場合のサンプル音声でご確認ください。 普通の地声で喋っています。これの凄さは実際にやってみてお試しください。 2000個のwavファイルを30回学習させた場合(音源はあみたろさんです) 5000個のwavファイルを100回＋他の学習モデルを合体させた場合(音源は色々です) RVC導入方法 学習ファイルの選定 VC Client導入方法 ノイズが乗ったりresが無限に伸びて困ってる人向け VB-Audio Virtual Cableの導入 wavファイルの素材量産方法 ノイズ除去 SoXの導
【Hummingbird, ONNX Runtime】sklearnで学習した機械学習モデルの推論処理を高速化する｜はやぶさの技術ノート
機械学習モデルの高速化については、実に様々なテクニックが存在し、高度な専門スキルを保有していないと実践できないケースもあります。 本記事の内容は sklearnで学習・推論を実践した人を対象としますが、それ以上のスキルは求めません。 sklearnの機械学習モデルを手軽に高速化する方法について紹介しますので、興味のある人は続きをどうぞ。 sklearnによる機械学習モデルの学習 今回は機械学習チュートリアルでお馴染みのirisデータセットを使い、ランダムフォレストによる分類モデルを生成します。 Import まずはimportから
はじめに 今は2020年8月なのですが、コロナ禍だし、暑いし、経済状況最悪で暇だし、良いことないですね。 暇になったので、1年ぶりにkaggleをやってみました。 Landmark Retrievalという建物の画像検索コンペに出たところ、そのコンペの提出形式がTensorFlowのSavedModel形式でした。 私はTensorFlow案件をけっこうやってきたので抵抗はなかったのですが、この制約が原因となったのか、あまりこのコンペの参加者は多くなかったようです。 kaggleの提出形式としては賛否両論あると思いますが、実務ではとても便利な形式だと私は思っています。 それなのにもし実務でも敬遠されているとしたらもったいないと思い、この記事ではSavedModelの便利さについて紹介してみます。 ちゃんとした使い方は公式リファレンスを当たってもらうとして、概念やsaved_model_cl
OpenVINO™で始めるディープラーニング
2019/11/27 update OpenVINO™で始めるディープラーニング どうも、ディープなクラゲです。 今回から「OpenVINO™ でゼロから学ぶディープラーニング推論」シリーズを掲載してゆきます！ このシリーズは、ディープラーニング概要、OpenVINO™ツールキット、Neural Compute Stick、RaspberryPiの使い方、Pythonプログラミングをゼロから徹底的に学び、成果としてディープラーニング推論アプリケーションが理解して作れるようになることを目指します。 今回は、どのような環境が必要なのか？ ディープラーニングとは？ OpenVINO™ツールキットとは？ について説明します！ 【 目次 】 何が出来るようになるのか？ 必要な機器について 必要なスキルについて ディープラーニングの種類と用途 CNN画像認識技術 学習フェーズと推論フェーズ AIの正体
TLdr; torch2trtというpytorchモデルをTensorRTに簡単に変換するライブラリを使い、Jetson nano+xavier上で画像認識とセグメンテーションの推論処理を10倍高速化できることを確認しました。 ただtorch2trtはカスタムモデルには対応していないため(resnetなどtorchvision標準モデルのみ）、自作モデルのTensorRT変換は大変だと思います。 TLdr; TensorRTとは TesnorRTを気軽に試す 画像認識 画像セグメンテーション 他高速化シリーズ aru47.hatenablog.com aru47.hatenablog.com TensorRTとは https://amzn.to/3q9qrEK https://amzn.to/37ndtL5 例えばJetsonNanoなどは安価に入手できるエッジデバイスだが搭載しているGP
はじめに 最近では、Deep LearningのライブラリとしてPyTorchが利用される機会が多くなっています。私自身も以前はTensorflow/Kerasを利用していましたが、現状はPyTorchを使うことがほとんどです。 しかし、PyTorchは実装がしやすいものの、モバイルやエッジデバイスへのデプロイを考える上では不安な点が残ります。今回は、PyTorchを様々なプラットフォーム上で利用することを考えたときにどのような方法があるかを整理します。 モバイル 選択肢の整理 現在、モバイル (iOS/Android)へのデプロイを考えるときにメジャーな選択肢が3つあります。 Core ML (Apple) PyTorchをonnxに変換し、onnxをcoreMLに変換する Tensorflow Lite (Google) PyTorchをonnxに変換し、Tensorflow/Kera
Microsoftが次世代AIアプリ開発のサポート＆面倒なセットアップを簡略化して生産性を向上させる開発者用ダッシュボード「Dev Home」を発表
Microsoftが現地時間の2023年5月23日、AIを利用したアプリケーションの開発をサポートするAIプラグインエコシステムの拡張や、開発を始める前の面倒なセットアップを簡略化して開発者の生産性を向上させる開発者用ダッシュボード「Dev Home」など、開発者をサポートするさまざまな新発表を行いました。 Bringing the power of AI to Windows 11 - unlocking a new era of productivity for customers and developers with Windows Copilot and Dev Home - Windows Developer Blog https://blogs.windows.com/windowsdeveloper/2023/05/23/bringing-the-power-of-ai-t
Elixirで機械学習に初挑戦⑥：いま、Elixir AI・MLで何が出来る？→ElixirでAI・MLを構築するメリット→2023年にElixirで攻略する領域 - Qiita
Elixirで機械学習に初挑戦⑥：いま、Elixir AI・MLで何が出来る？→ElixirでAI・MLを構築するメリット→2023年にElixirで攻略する領域PythonElixir機械学習fukuoka.ex この記事は、Elixir Advent Calendar 2022 8の22日目です 昨日は、@RyoWakabayashi さんで「Livebook から Amazon DynamoDB の NoSQL データベースを操作する」でした piacere です、ご覧いただいてありがとございます この2年間で、Elixirの機械学習環境が凄まじく発展し、プロダクションに実戦投入しても問題無いフェーズに入ったので、「Eixirで機械学習に初挑戦」をテーマにシリーズコラムをお届けします 入門者向けに「機械学習とは何か？」や、機械学習の中で出てくる数々のキーワード解説もしていきますので、
追記 2022 年版を書きました。 本文 2 年くらいまえにこんな記事を書きました。 ハッカソンで使い勝手の良さそうな Microsoft のサービス 2 年もたつと今のご時世色々変わりますよね。ということで 2020 年 9 月時点の自分の知ってる範囲でまとめてみようと思います。 QnA Maker トップバッターは QnA Maker ですね！ 質問と回答のペアを登録してトレーニングすると質問に対して一番それっぽい答えを返してくれる API が出来ます。 特徴としては、QA サイトとかみたいに質問と回答が書いてあるホームページとかを食わせてもいいです。 単純な REST API が出来上がるので直接 URL を叩いてもいいし C#、Go、JavaScript、Python、Ruby 向けの SDK が提供されている（これを書くために調べてみて Java 版がないのにびっくりした！）ので
人気ライブラリPyTorchに見つかったサプライチェーン攻撃の詳細 PyTorchは、MetaのAI（人工知能）リサーチグループによって開発されたライブラリで、GPUをサポートしたテンソル演算や深層学習トレーニング、Open Neural Network Exchange（ONNX）へのエクスポート機能、自動微分機能、自動ベクトル化などの特徴を備える。多くの深層学習ソフトウェアがPyTorchをベースに構築されており、さまざまな企業やプロジェクトによって使われている。 スタウィンスキー氏によると、PyTorchの「継続的インテグレーション／継続的デリバリー」（CI/CD）プロセス内の脆弱性と「GitHub」のデプロイシステム「セルフホステッドランナー」を悪用することで、PyTorchリポジトリに対する広範なアクセス権を獲得し、悪意あるコードのアップロードやリポジトリの秘密情報の窃取が可能に
機械学習を簡単に行うための有用なライブラリの一つはscikit-learnである。 この文書では、scikit-learnの学習結果をpickleしないで済ます方法について述べる。 scikit-learnの特徴 各種識別器の学習・予測・評価方法のためのインターフェースがそろえてある設計。 各種アルゴリズムを試して、比較しやすい。 ドキュメントが充実している。 前提 python scikit-learn pickle scikit-learn に欠けているもの scikit-learnで学習した結果を保持するための枠組みが不足している。 そのため、sckit-learnで作った学習済みの識別器をpickleして、それをpickl.loads(pickle済みのファイル)して使ってしまうということをしてしまいやすい。 問題点 scikit-learn のサイトでも、pickleしたものを使
機械学習、ディープラーニングを行おうとするとPython一択というイメージがあります。たしかにフレームワークが豊富で、情報も数多いので一番手軽な選択肢に思えます。 しかし、ほかのプログラミング言語でもディープラーニング用のフレームワークが増えてきています。今回はそれらを言語別にまとめて紹介します。 JavaScript TensorFlow.js TensorFlow.js | JavaScript デベロッパー向けの機械学習 PythonのTensorFlowをJavaScriptにポーティングしたフレームワークになります。Pythonで作成したモデルを変換して利用できます。 Keras-js keras-team/keras: Deep Learning for humans KerasはTheano、TensorFlowが扱えるディープラーニング用ライブラリで、Keras-jsはその
Towards MLOps: Technical capabilities of a Machine Learning platform
Table of contentsIntroduction 1.1 The workflows of data science and software development are different 1.2 The ML pipeline has to include Continuous Training 1.3 Model driftFeature Store 2.1 Centralised data access 2.2 Data Versioning 2.3 Data pipelines 2.4 Data labeling 2.5 Feature repository and data discoveryTraining pipeline 3.1 Model and experiment management 3.2 Pipeline orchestration 3.3 Au
GitHub - ultralytics/yolov5: YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
日本語LLMの推論速度検証｜株式会社レトリバ
はじめにこんにちは。横浜国立大学大学院 理工学府 修士2年の藤井巧朗と申します。8月24日から9月29日の５週間、株式会社レトリバにインターンとして参加させていただきました。インターンでは日本語LLMの推論速度に関する検証を行いました。本記事では、インターンでの成果の一部を紹介します。 想定する読者： 自然言語処理に興味がある方 自然言語処理を扱う会社のインターンに興味のある方 LLMの推論速度に関心のある方 時間がない方向けまとめ： 推論速度に関して、特に大規模なモデルではCPUよりもGPUの方が圧倒的に速い GPUで高速化したい場合vLLMかFasterTransformerを使うべき（モデルの大きさによる） 特にバッチ処理をする場合はvLLMを使うべき 本検証では量子化によるスループット向上は見られなかった 0. インターン参加の経緯私はもともと研究スキルやエンジニアリング力を高めた
Rist Kaggle チームの藤本(@fam_taro)です。 今回は Rist Kaggle合宿2023夏の時間を使って、最近の OpenMMLab の始め方をまとめてみました。本記事内ではその中の mmdetection を使って説明していきますが、他の OpenMMLab の使い方もカバーする内容となってます。 また記事の後半では Kaggle のコードコンペなどに参加したいときの使い方も記載します。 1. OpenMMLabとは 下図と紹介文は 公式サイト より引用 OpenMMLab builds the most influential open-source computer vision algorithm system in the deep learning era. It aims to provide high-quality libraries to reduc
Replicateより。 Stable Diffusionはオープン ソースであるため、誰でも実行・改造することができます。それが、この1週間に大量の創作物を生み出した理由です。 Stable Diffusionは、Replicate上のクラウドで実行できますが、ローカルで実行することもできます。予測を生成だけでなく、それをハッキングしたり、改造したり、新しいものを作ったりすることができます。M1 MacのGPUで動作させるのは少し難しいので、その方法を説明するためにこのガイドを作成しました。 これに対するすべての功績は、GitHub上のstable-diffusionのフォークに貢献し、このGitHubスレッドですべてを理解したすべての人のおかげです。私たちは彼らの偉大な仕事のメッセンジャーに過ぎません。 私たちがこれまでの作業に加えて行ったことの1つは、Condaの代わりにpipを使っ
こんにちは、Fくんです。 受験シーズンです... これのwindows版ですね どのくらい速くなるとかLinuxとかColabでの実行方法は前の記事を見ていただいて... Lsmith TensorRTをGUIで扱いやすくするものがだだっこぱんださんから出てます。 すぐwindows対応出ると思います ここから先はtensorrt repoのdemo-diffusion.pyを動かしたい人向けです Windowsで実行 CUDAをインストール まずはCUDAをインストールしてください。 僕の場合はCUDA 11.6を使います。 ↑ のリンクから、windows > 10 or 11 > exe(local) or exe(network) を選択してください。 cuDNNのインストール cuDNN 8.6をダウンロードします。 ↑ のリンクから、Download cuDNN v8.6.0
姿勢推定モデル MoveNet を TensorRT でベンチマーク - OPTiM TECH BLOG
R&D チームの奥村（@izariuo440）です。日本で気温が暖かくなると姿勢推定が盛り上がってくるように見えるのは私だけでしょうか？今年の５月に発表された人物姿勢推定モデルの MoveNet v3 をTensorRT でベンチマークしてみました。CPU でもかなり高速推論が可能ですが、CUDA でもっと速く、TensorRT でもっともっと速くなることが確認できました。 MoveNet TFLite モデルを ONNX モデルに変換 ONNX モデルを加工 ベンチマーク結果 まとめ MoveNet MoveNet は高速・軽量・高精度と三拍子揃った人物姿勢推定器です。Lightning/Thunder の二種類があり、前者はより軽量・高速です。詳細は MoveNet.SinglePose Model Card (PDF) や Next-Generation Pose Detection
【Unity】パソコンのカメラからモーションキャプチャをしてAnimationClipを作成する - はなちるのマイノート
はじめに 先日このようなツイートを見かけました。 3次元姿勢推定のサンプルコードをGitHubに公開しました！ https://t.co/XNEMiWy60P 指定した動画ファイル / Webカメラ の映像を3D姿勢推定し、Unityちゃんをリアルタイムに動かしています！ （ResNet34ベースモデルをBarracudaにてロード） GitHubの★を宜しくお願いします！ pic.twitter.com/DB7DG70Xas— デジタル・スタンダード公式 (@digistaofficial) February 13, 2020 この三次元姿勢推定を用いて、お手軽にモーションキャプチャをしてゲームなどのキャラクターのモーション(AnimationClip)を作れるのでは？と思ったのでやってみました。 必要なものは普通のカメラ一つだけなので、これほど導入が簡単で個人でも楽々利用できるのは革命
Cloudflare Workersのエコシステムには現在、コンピューティング、ホスティング、ストレージ、データベース、ストリーミング、ネットワーキング、セキュリティ、その他多くの製品と機能が含まれています。当社はこれまで、従来のソフトウェアアーキテクチャからの移行に踏み切っていただけるよう、グローバルに拡張可能な複雑なアプリケーションを当社のスタック上に構築できることを実証し、文書化してきました。 本日、CloudflareがそのスタックにConstellationを加え、開発者がトレーニング済みの機械学習モデルと推論タスクをCloudflareネットワーク上で実行できるようにすることを大変嬉しく思います。 当社のスーパークラウドに新たな構成要素を追加最近、機械学習とAIが盛んに取り沙汰されていますが、私たちは何年も前から日常生活でそれらのテクノロジーを使っています。知らずに使っているこ
Microsoft、WebブラウザでMLモデルを実行できる「ONNX Runtime Web」を公開：速度を犠牲にせず、ポータビリティーが向上する Microsoftはあらゆる機械学習（ML）モデルを実行できる「ONNX Runtime Web」を公開した。オープンソース推論エンジン「ONNX Runtime」の新機能だ。JavaScript開発者はMLモデルをWebブラウザで実行、デプロイできる。 Microsoftは2021年9月2日（米国時間）、「ONNX Runtime」の新機能「ONNX Runtime Web」（ORT Web）を公開した。 ORT Webを利用することで、JavaScript開発者は機械学習（ML）モデルをWebブラウザで実行、デプロイできる。さらにORT Webは、新タイプのオンデバイスコンピュテーションの実現を支援する。 ORT Webは、近いうちに非推奨
概要 以下の記事を参考に、最近リリースされたUnity製推論エンジンを試してみたのでそのメモです。 qiita.com note.com Barracudaとは？ Barracudaとは、ドキュメントにはこう記載されています。 Barracuda is lightweight and cross-platform Neural Net inference library. Barracuda supports inference both on GPU and CPU. 軽量でクロスプラットフォームなニューラルネットワークの推論ライブラリということですね。 そしてこちらのブログによるとUnity製のオリジナルだそうです。 セットアップ BarracudaはPackage Managerから簡単にインストールできます。 インストールするにはWindow > Package Managerから
ML.NET の事前トレーニング済みの ONNX モデルを使用して画像内のオブジェクトを検出する方法について説明します。 オブジェクト検出モデルを最初からトレーニングするには、数百万のパラメーター、大量のラベル付きトレーニング データ、膨大な量の計算リソース (数百時間の GPU) を設定する必要があります。 事前トレーニング済みモデルを使用すると、トレーニング プロセスをショートカットできます。 このチュートリアルでは、次の作業を行う方法について説明します。 前提条件 Visual Studio 2022. Microsoft.ML NuGet パッケージ Microsoft.ML.ImageAnalytics NuGet パッケージ Microsoft.ML.OnnxTransformer NuGet パッケージ Tiny YOLOv2 事前トレーニング済みモデル Netron (省略
次世代のノートPC向けCPU「Meteor Lake」の詳細が明らかに。メインのCPUコアを使わずに動画を再生できる!?
次世代のノートPC向けCPU「Meteor Lake」の詳細が明らかに。メインのCPUコアを使わずに動画を再生できる!? ライター：米田 聡 Intelは，ノートPC向けの次世代プロセッサとなる開発コードネーム「Meteor Lake」を，2023年後半に市場へ投入する。Meteor Lakeは，すでに量産に入っており，その様子を4Gamerでもレポート済みだ。 Meteor Lake Meteor LakeについてIntelは，「過去40年において，もっとも大きなアーキテクチャ上の変革である」と，繰り返しアピールしている。現在のx86系CPUの基礎となったIA-32命令セットを実装した初のプロセッサ「Intel 80386DX」が1985年，つまり今から37年前に誕生しているので，それ以来の変革といった意味だろうか。 そんなMeteor Lakeに詰め込まれている新しい技術の概要を，In
Turing株式会社の自動運転・AIモデル開発チームの岩政(@colum2131)です。 Turingは2030年までに完全自動運転の達成を目指しており、自動運転AI開発から車両開発など、取り組むことは多岐に渡っています。 今回の話は、自動運転AI開発中に出た問題と、ひとまずの解決方法になります。より良い解決策があれば、教えてもらいたいです🙏 Transfomer-EncoderをONNXに変換したい ONNX（Open Neural Network eXchange）は、機械学習・深層学習モデルを表現するために構築されたオープンフォーマットです。 PyTorchやTensorFlow、scikit-learnなどのフレームワークで学習されたモデルをONNXに変換することでサーバーやエッジデバイスなど多様なハードウェアで運用が可能です。各ハードウェアごとに最適化されたフォーマットにも変換
PyTorch1.3 リリース【プロダクト側も本格始動】 - HELLO CYBERNETICS
はじめに Mobile Support Quantization support C++ Frontend Improvements ONNX Exporter Improvements 所感 はじめに これまでPyTorchといえば柔軟にネットワークが変更でき、素早いプロトタイプの実験が可能な研究志向の強いDeepLearningフレームワークという印象が強かったです。 しかし今回v1.3をリリースし、プロダクト側の強化の姿勢を大きく見せてきたように思います github.com Mobile Support これまではTFliteがモバイルサポートで突出している状況でしたが、PyTorchが公式にモバイルのサポートを提供し始めました。 今回のアップデートで、モバイルでTorchScript推論が動くようにサポートされました。TorchScriptはPyTorchで書いたコードをtorc
このレシピは、高速・高精度な物体検出モデルであるYOLOXをONNX形式に変換し、RaspberryPi4で推論するレシピです。YOLOXを用いた物体検出を学ぶことができます。以下の内容を含みます。1.YOLOXのモデルをONNX形式...
Chapters 📘 Chapter #0 YOLOとは 📘 Chapter #1 環境設定 📘 Chapter #2 アノテーション 📘 Chapter #3 📗 Chapter #3-1 YOLOv3 Keras版実装 📗 Chapter #3-2 YOLOv3 Darknet版 📘 Chapter #A 📗 Chapter #A-1 YOLOの各バージョンについてまとめ 📗 Chapter #A-2 YOLOv3 Keras版実装に関して関連記事のまとめ 📗 Chapter #A-3 ONNX変換・確認ライブラリ、アプリケーションまとめ TL:DR 元記事が手順として煩雑になっていたため、手順以外の調査した結果に関するまとめについてはこちらに分割しています。 YOLOv3のKeras版実装のソースについて qqwweee/keras-yolo3: A Keras
Microsoftは2024年2月29日（米国時間）、オープンソースでクロスプラットフォームの機械学習（ML）モデルアクセラレータ「ONNX Runtime」の「ONNX Runtime Web」機能において、WebGPUを用いてWebブラウザ内でのMLを高速化できるようになったと発表した。 ONNX Runtimeは、さまざまなハードウェア、ドライバ、OSと互換性があり、グラフの最適化や変換に加え、ハードウェアアクセラレータを適宜活用したパフォーマンスを提供する。PyTorch、TensorFlow/Keras、TensorFlow Lite、scikit-learnなどのフレームワークのモデルで使用できる。 ONNX Runtime Webは、JavaScript APIとライブラリを使用して、WebアプリケーションでMLモデルを実行、デプロイ（展開）できる。 関連記事 「Chrome
TensorRT 歴３年となった R&D チームの奥村（@izariuo440）です。今回は、2021/04/12 に発表された Ampere 世代の各種 GPU に対して TensorRT でその性能を十分に引き出すために必要な知識をまとめておきます。FP16/INT8 をうまく使うと、推論速度が２〜４倍になったりするのでおすすめです。 演算精度 演算精度 FP16/INT8 をサポートしている GPU FP16 の威力 INT8 の威力 TensorRT のバージョン 互換性 さいごに 演算精度 NVIDIA TensorRT は、NVIDIA GPU 上で深層学習モデルを高速に推論するためのプラットフォームです。TensorRT を使うモチベーションについては以下をご覧ください。 TensorRT で物体検出・姿勢推定はどれくらい速くなる？ - OPTiM TECH BLOG Ten
Amazon EC2にディープラニング系将棋ソフトのdlshogiをインストールしてみた | DevelopersIO
最近はdlshogiやPALなど深層強化学習ベースの将棋ソフトの躍進が目覚ましく、使ってみたい人も多いかと思います。 ただし、性能を引き出すには、そもそもちゃんとしたGPUが必要だったり、NVIDIA 系の依存ライブラリのために、インストールも煩雑です。 今回は、Amazon EC2のGPU系インスタンスに、ディープラーニング系のコミコミのAMI(コンピュータのテンプレート)を使って、なるだけ省エネで dlshogi をインストールする方法を紹介します。 前提 NVIDIA A100を8基搭載した EC2のGPU系最強インスタンスタイプ P4d は Linux 系 OS にしか対応していないことから、ターゲット OS も Linux とし、コマンドラインで usi インターフェースを動作確認できるところまでをゴールとします。 なお、 dlshogi 将棋の作者が 1年ほど前の EC2 P4
はじめに こんにちは。 @dcm_yamaya です。 ことしハマったキーボードは HHKB Professional HYBRID (not type-s) です。 この記事は、NTTドコモ R&D Advent Calendar 2020 7日目の記事です。 普段の業務では、画像認識やエッジコンピューティングの技術領域を担当しています。 昨年の記事 ではJetson上で画像認識モデルをTensorRT化する方法を紹介しました。 ことしはTensorRTに関連して興味があった、GTC2020で発表された NVIDIA Triton Inference Server を使って画像認識モデルの推論を試したいと思います。 「あれ、このフレームワーク前もなかったっけ？TensorRT Inference Server じゃなかったっけ？」 と思ったら、名前が変わっていました。 https://t
【開催報告&資料公開】ML@Loft #10 Edge Deep Learning | Amazon Web Services
AWS Startup ブログ 【開催報告&資料公開】ML@Loft #10 Edge Deep Learning こんにちは、AWS ソリューションアーキテクトの辻です。2020年初となる第10回目の ML@Loft は1月に Deep Learning フレームワークと推論をテーマに開催しました。 ML@Loft は機械学習のお悩み相談イベントで、目黒の AWS Loft Tokyo で2019年4月より毎月開催しています。AWS をお使いのお客様がサービスの中に機械学習を取り入れて開発・運用していく際のお悩みを相談できる場が欲しい、ということで始まったコミュニティイベントです。登壇者（相談役）が自己紹介を兼ねた10分ほどの Lighting Talk (LT) を順番に行った後、テーブルに分かれて具体的な相談・ディスカッションを行う、という二部構成で開催されています。過去の様子は登壇
GitHub - xenova/transformers.js: State-of-the-art Machine Learning for the web. Run 🤗 Transformers directly in your browser, with no need for a server!
State-of-the-art Machine Learning for the web. Run 🤗 Transformers directly in your browser, with no need for a server! Transformers.js is designed to be functionally equivalent to Hugging Face's transformers python library, meaning you can run the same pretrained models using a very similar API. These models support common tasks in different modalities, such as: 📝 Natural Language Processing: te
Fantasy.ai is the official and exclusive hosted AI generation platform that holds a commercial use license for Anything V4.0, you can use their service at https://Fantasy.ai/ Please report any unauthorized commercial use. Try out my new model! - Pastel Mix || Stylized Anime Model. Thanks. I also uploaded it in CivitAI! https://civitai.com/models/5414/pastel-mix-stylized-anime-model I'd appreciate
Windows11+WSL2+Dockerでdlshogiを動かす - TadaoYamaokaの開発日記
学習用のPCをWindows11にアップグレードしたので、CUDA on WSLを試してみた。 ドライバインストール CUDA on WSLに対応したドライバをインストールする。 GPU in Windows Subsystem for Linux (WSL) | NVIDIA Developer ※2021/11/1 追記 CUDA 11.4に付属するドライバでも大丈夫だった。 このドライバを使うとWindows上で、以前のCUDA+TensorRTでビルドしたdlshogiのNPS性能が低下した。 WSL2インストール 公式のドキュメントの通り、管理者モードでPowerShellを起動して、 wsl --installでインストールする。 Ubuntuも合わせてインストールされる。 GPUが使用できることを確認 Windows11でWSL2をインストールすると、デフォルトでCUDAが使
Insights Speeding up Transformer CPU inference in Google Cloud The Twitter Cortex team has been focused on improving content understanding to extract new topics, promote healthy conversations, and help users discover more relevant Tweets and accounts to follow. Transformer-based models like BERT are one of the most effective natural language processing (NLP) techniques that can understand words an
今月、W3C に提出されていた Web Neural Network API (WebNN) が、Chromium で Intent to Prototype[1]になりました。この記事では、WebNN が標準化されている目的、追加される API の詳細や今後の動向について調査してみました。 この記事の３行まとめ Neural Network の数値計算の最適化は、ハードウェア単位で盛んに行われており、API も提供されている WebNN は、各ハードウェア (OS) で提供されている Neural Network の API をブラウザからも利用できるようにし、推論のさらなる最適化を実現する Web 開発者は、WebNN より高レベルな API として提案されている Model loader API の動向を追うと良さそう WebNN が提案された目的 Neural Network モデ
技術同人誌「エッジAIコンピュータビジョン入門」を書きました 技術同人誌新刊を書きました！第八回 技術書同人誌博覧会で販売予定です。 ダウンロード販売となります。以下リンクから購入ください。 karaage0703.booth.pm せっかくなので、コピー本を作成して会場でPDFデータと一緒にセット販売もしようかと考えていますが、正直いくつ作成できるかは未定です。もしどうしても紙で欲しいという人いたら、Twitterとかで教えてください。 「エッジAIコンピュータビジョン入門」の内容 エッジデバイスでAI使ってコンピュータビジョンをするための本です。エッジデバイス、AI、コンピュータビジョンはそれぞれ一般用語ですが、これらを組み合わせた「エッジAIコンピュータビジョン」という用語は、私の造語になります。この本で普及させて、エッジAIコンピュータビジョンの第一人者になることを目指しています。
![技術書同人誌「エッジAIコンピュータビジョン入門」を出版します - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/b7d5bca4075ceca9720fa77679ea6782ea694578/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkaraage%2F20230520%2F20230520114827.png)
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TensorFlowのSavedModelの便利さを紹介する - 生き抜くぜ21世紀
Pytorch高速化 (3) TensorRTで推論を10倍高速化 - arutema47's blog
PyTorchモデルをモバイルやエッジで利用するための方法の整理 - ほろ酔い開発日誌
ハッカソンで使い勝手のよさそうな Microsoft のサービス紹介 - Qiita
Pythonの機械学習ライブラリ「PyTorch」に脆弱性 研究者が発見
scikit-learnの学習結果をpickleしない - Qiita
Python以外でもできる。言語別ディープラーニング用フレームワークまとめ – ピクアカインフォ
OpenMMLabの始め方@SUMMER 2023 - Qiita
M1 MacのGPUでStable Diffusionを実行する
TensorRTを使ってStableDiffusionを爆速にする（Windows編）
CloudflareスタックにAIをもたらすConstellationの紹介
Microsoft、WebブラウザでMLモデルを実行できる「ONNX Runtime Web」を公開
Unityの推論エンジン『Barracuda』を試してみたのでそのメモ - e.blog
チュートリアル: ONNX ディープ ラーニング モデルを使用してオブジェクトを検出する - ML.NET
ONNXモデルの変換エラーを解決: PyTorchのTransformerモデルの再実装方法
YOLOX-NanoをRaspberry Pi4で実行するレシピ
YOLOv3 Keras版実装に関して関連記事のまとめ - Qiita
「ONNX Runtime Web」でWebGPUによるブラウザ内機械学習の高速化が可能に
TensorRTの演算精度・バージョンのメモ - OPTiM TECH BLOG
NVIDIA Triton Inference Server で推論してみた - Qiita
andite/anything-v4.0 · Hugging Face
Speeding up Transformer CPU inference in Google Cloud
標準化に向けて進んでいる Web Neural Network API について調べてみた
技術書同人誌「エッジAIコンピュータビジョン入門」を出版します - karaage. [からあげ]