はじめに SiFive が日本法人を作ったのが、2022年7月のこと news.mynavi.jp あれから、まだ2年しかたっていませんが、状況が変わったので記録に残します。 追記)、2024.06.07 マイナビに記事が載りましたね news.mynavi.jp こちら 代表取締役社長に就任した Sam Rogan -san の LinkedIn 2024年6月 : GM of APJ and President of Altera Japan となっています。 SiFive Japanの社長辞めて Altera Japanの社長になった つまり日本での RISC-VコアIPビジネスはないのだと— Vengineerの妄想(準備期間) (@Vengineer) 2024年6月5日 おわりに 確か、デンソーが半導体IP設計の新会社の設立を発表したのが、2017年8月 www.denso.c

はじめに NVIDIAの下記の論文を見直して、気が付きました。 GPU Domain Specialization via Composable On-Package Architecture GPGPUのL3 Cacheって、LLMの性能にどのような影響を与えるのか？ グラフを見てみたら、 下図は上記の論文の Figure 9 です。これを見ると、Trainingのところに、Transformerがありますが、Inferenceにはありません。 ということは、LLM Inference には、L3 Cache の効果はあまりないということなんでしょうね。 となると、 L3 Cache有 : LLM Training用 L3 Cache無 : LLM Inference用 としてプロダクトが作れますね。 この論文を書いていた時は、 L3 Cache有 : DL用 L3 Cache無 : H

はじめに Windows 11がリリースされたのが 2021年10月5日。その前のWindows 10がリリースされたのが 2015年7月29日。Windows 10 => Windows 11 で約6年。 Windows 12が出るという話(2024年6月)になっていますが、まだ3年も経っていません。 Windows 12 のハードウェアに必要なスペックは？ Windows 12でのハードウェア側の最低限のスペックとして、 メモリは、16GB NPUの性能は、40 TOPS となっているようです。 下記のPC Watchの記事の中に、現在のPCのNPU単体性能が載っています。 pc.watch.impress.co.jp Intel Core Ultra (Meteor Lake) : 11 TOPS、NPU+CPU+GPU = 34TOPS AMD Ryzen 7040 : 10TOP

はじめに テカナリエの清水さんの下記のXの投稿にあった、NVIDIAのHBM側 もちろんNVIDIA もHBM側の シリコンも開発してますよ！ メモリーメーカーに丸投げのわけないよね （当たり前の話ですが） pic.twitter.com/3KidR12oNM— テカナリエ清水 (@techanalye1) 2023年12月20日 無くなるともったいないので、画像を引用します。 HBM2E、2019、NVIDIA の文字があります。 HBM2E ということなので、H100ではなく、A100 でしょうか？ 2019 年だと、2020年発表のA100になり、こちらも A100 になるでしょうかね。 HBMの構成を復習 PC Watchの下記の記事にHBMの構造の図があります。 pc.watch.impress.co.jp 下図がその図で、説明のために引用します。 HBMは、Logic Dieの

はじめに Raspberry Pi 5 に関することは、下記のように既に7回アップしています。 Raspberry Pi 5 の SoC は、Broadcom BCM2712 Raspberry Pi 5 は、PSCIをサポートしている！ Raspberry Pi 5の I/O chip、RP1 とは Raspberry Pi 5のBCM2712は、BCM2711とどこが違う？ Raspberry Pi 5 の Linux Kernel の Page Size は 16KB Raspberry Pi 5は、L3 Cache付き！ Raspberry Pi 5 (2712)と Raspberry Pi 4 (2711) のVideocoreの違い 今回は、PCIe に関するものです。 下記の記事の中を確認していきます。下記の記事からの写真等を説明のために引用します。 www.raspberr

はじめに このブログで5月に書いた以下の内容についての更新。 vengineer.hatenablog.com いつものように、AMD/Xilinx の github を散歩していたら、mlir-aie の説明の中に Ryzen AI でも FPGA(Versal) の AI Engine が使えるっぽいです。 詳細は、ここ にUbuntu で使えるということが書いてあります。 また、Windows の WSL Ubuntu でも使えるようです。 Windows + Ryzen AI の使い方 このドキュメントによると、 MLIR-AIE tools: WSL Ubuntu 22.04 にあるように、Windows の WSL Ubuntu 22.04 で MLIR-AIE をビルドします。 また、Microsoft Visual Studio 17 2022 Community Edit

はじめに AMD Ryzen AI を使うためのドキュメントを確認してみた。 ryzenai.docs.amd.com 0.9 で preview 版っぽい。 基本的には、Python で使う 下図を説明のために引用します。 TensorFlow PyTorch ONNX ベースの python で使うもの。 CPU XDNA XDNA が AI Engine側 IPU driver Ryzen AI は、IPU device(PCIデバイス、デバイスID=0x1502) として実装されているようです。 そして、IPU driver 経由 で Ryze AI が使える。>= 10.105.5.42 で使えるっぽい。 ソフトウェア (ryzen-ai-sw-0.9.zip) を展開する。ソフトウェアはユーザー登録しないとダウンロードはできない。 実体は下記にあるっぽい。 set XLNX_V

はじめに Xの下記の投稿に、RISC-Vなlaptopが流れてきました。ちょっと気になったので、記憶のために残します。 www.tomshardware.com LiChee Console A4 LiChee Console A4 というもので、16GBメモリ、eMMC 128GB、1280 x 800 LCD、$299 からのお値段。 SoCは、LM4A TH1520 のようです。 LicheePad4A なるタブレットもあります。LiChee Console A4 のタブレット版っぽい。液晶は 1920 x 1200 です。Android 13 + Debian って、何？ Lichee Pi 4A Lichee Pi 4Aについては、ベースボード + SoM なんですね。 SoC ; TH1520 (12nm、RISC-V 2.0GHz (C910 x 4) Memory : 4G

はじめに AppleがM3シリーズとして、 M3 M3 Pro M3 Max を発表しました。また、M3シリーズを搭載する Mac Book Proも発表しました。 詳細は、下記のビデオにあります。 www.youtube.com 以下の画像は上記のビデオから説明のために引用します。 説明は、いつもの Johny -san です。カッコいいですよね。 M3/M3 Pro/M3 Max M3の25 billion transistors, M3 PRO の37 billion transistors は分かるのですが、M3 MAX の 92 billion transistors って、何ですか？ 下記のように、M1 Pro => M1 Max, M2 Pro => M2 Max でだいたい 1.7倍弱なんですが、M3 Pro => M3 Max では、2.5倍弱ですよ。 die shot

はじめに XのTLに、Occamyが上がってきたという投稿が流れてきました。下記の投稿を説明のために引用します。 Live from PULP, you are witnessing the unboxing of Occamy by @LucaBeniniZhFe. Our 432-core Multi-TFLOPs RISC-V-Based 2.5D Chiplet System for Ultra-Efficient (Mini-)Floating-Point Computation came back from assembly at Fraunhofer IZM https://t.co/GMps7YYIcB! More news coming soon. pic.twitter.com/yu01QN7v0q— PULP Platform (@pulp_platform) 202

はじめに AMD Ryzen AI 対応のCPUが出てきたら、どんな感じに使えばいいのかを知りたくて、なんとなく、AMD の github を覗いてみたら、アップされていた Ryzen™ AI cloud-to-client demo ONNX Runtime として実装されているっぽい 上記のgithub のページの最後に、 Run your own models with ONNXRuntime on Ryzen AI とあり、ONNXRuntime Vitis-AI EP に飛ぶ Vitis AI Execution Provider ONNX では、backend を Execution Provider として実装することになっている。Ryzen AI では、Vitis AI Execution Provider を使うことになるという。 利用できる環境は、下記の通り。Ryzen

はじめに Rockchip RK3588SというSoCがあるようですね。 gadgetrip.jp Rockchip RK3588S は、RK3588の小型版 8nm とあるので、Samsungですかな。 CPU : Cortex-A76 x 4 + A55 x 4 GPU : Mali-G610 MP4 (CPU A710/A510と一緒にアナウンスしたものなのにね) : Utgrad => Midgard => Bifrost => Valhall の Valhall NPU : 6TPOPS Memory : LPDDR4x/LPDDR4/LPDDR5, Max 32GB この SoC、GPU の Valhall を体験できるんだね。 RK3588 は、PCIe 3.0 x4 が付いていて、RK3588S は、CAN bus ×3 が付いています。 Rockchip RK3588S搭

はじめに AMD CDNA (サーバー用GPGPU)のメモリコントローラの部分を調べてみたら、気が付きました。 MI200 の メモリコントローラは、8チャネル？ 下記の記事の中にある図に、MI250の/MI250Xメモリコントローラは 8-ch という文字がありました。下図を説明のために引用します。 1 die には、4個のHBM2eメモリが接続し、その手前のメモリコントローラは 8-ch だと。 CNDA/CDNA 2 の Whitepaper 下記の2つの Whitepaper から 両方とも L2 Cache は 8MB、16-way/32slice になっていると書いてありました。 INTRODUCING AMD CDNA ARCHITECTURE INTRODUCING AMD CDNA™ 2 ARCHITECTURE 下図は説明のために図を抜粋しました。 32 slice な

はじめに 下記のツイートを眺めていたら、fclk, uclk, mclk なるものを見つけました。どうやら、この3つのクロックは AMD Ryzen にとっては非常に大切のようです。 AMD GDC 2023 1/3 pic.twitter.com/D82PnJj36X— 포시포시 (@harukaze5719) 2023年3月25日 説明のために、AMD RYZEN 9 7950X の図を引用します。右側の Data Fabric は fclk、Unified Memory Controller は uclk、DRAM Channel は memclk で動いているようです。 fclk, uclk, mclk の関係 下記の記事に、RYZEN 7000 の fclk, uclk, mclk の関係が述べられています。 ascii.jp 説明のために下図を引用します。fclk は 200M