ONNXRuntime-Webを使ってブラウザ拡張でニューラルモデルをローカル推論しよう - Qiita

はじめに これはKaggle Advent Calendar 2023の16日目の記事です． みなさん，私生活でニューラルモデル使ってますか？DeepLとかChatGPTとかではなく，皆さんが魂を込めた手元のモデルの話です． 最近のkaggleコンペの題材はかなり一般的なアプリケーションにそのまま転用できそうな話題も増えているように感じます．自分で作ったものに限らなくても，前処理だったりでネットから拾ってきたモデルも便利だったりしますよね．それ，コンペ終わったら即ポイじゃもったいなくないですか？ そこでonnxruntime-webの出番です．onnxruntime-webを使うとブラウザでニューラルモデルのローカル推論ができます．この記事では特にブラウザの拡張機能でモデルを使う方法を見ていきます．ブラウザ拡張の開発はそれ自体すでに万人にお勧めしたいものですが，そこにさらにニューラルモデル

[sh19910711]

2023 / "onnxruntime-webには実行時のバックエンドとして，CPU実行するwasm，GPU実行するwebglおよびwebgpuの三つの実行オプション / 各バックエンドごとに制限が異なるため，どのバックエンドを利用するかあらかじめ想定"