ブラウザで“サクサク”AI推論！！― Wasm × C++ による画像処理 - カミナシ エンジニアブログ

こんにちは、Kaminashi StatHackカンパニーの渡邉健です。 初めてエンジニアブログを書いてみます。 以下のリンクに普段の取り組みを書いているので興味があれば見てみてください。 AI というテクノロジーを現場 SaaS でどう実現するか 〜AI チームのアプリケーションエンジニアに話を聞いてみた〜｜カミナシnote編集部 1. StatHackのこれまでの画像処理の取り組み StatHack カンパニーでは、現場作業を楽にする AI 画像処理 をいくつか開発してきました。 たとえばスマホで鉄筋束を撮影し、クラウド側で本数を自動カウントする Web アプリなどです。 JFE条鋼がAI個数検査システム『カミナシ CountAI』を導入し、鋼材の員数確認作業時間を約1/10に効率化 従来アーキテクチャ 私たちの今まで利用していたアプリは以下の手順で動いていました。 端末で写真を撮影

[isayo]

WASM_SIMD(-msimd128)はマジで速くなる。魔法のようだ。iPhoneは熱くなるが…。

[igni3]

クライアントで処理するということは学習済みモデルをユーザーに渡してしまうということ。それでもいいならクライアント側でGPU使わせるとかはある。だけど大手LLMがやらんのはモデル渡したくないからだよね。