M5Stack Module LLMがやばい
はじめに IoTLTがアドベントカレンダー振り返りやってるので急ぎ記事制作 Module LLMとは 2024年11月1日に発売されたM5Stackのモジュールです。 その正体は？ ローカルで最小サイズのLLMが動くエッジAIアクセラレータ付きのLinuxボードです。 AXERA社という中国のチップメーカが開発したAX630CというSoCが載っていて、armコアとNPU（AI用アクセラレータ）が入ってます。 ストレージとして32GBのeMMCが載っているので、OSはeMMCから高速起動します。 RAMは4GB載っていて、OS用に1GB、NPU用に3GBが割り当てられています。ざっくりいうと、RAM1GBのラズパイに3GBのVRAMが搭載されたGPUが付いてる感じ。（めっちゃ強くなったラズパイZero2） 配布されてるOSイメージはubuntuの22.04LTSなので、Ubuntuで動くパッ
M5Stack LLM ModuleをLinuxボードとして利用する際のFAQ/Tips by airpocket | elchika
はじめに M5Stack LLM ModuleはM5Stack Core向けのエッジLLMモジュールです。 M5Stack上からUIFlow2やArduinoIDEでUART越しにAPIをたたくとKWSやASRやLLMやTTSで答えてくれます。この価格帯のボードとしては相当高性能かつめちゃ簡単に使えるエッジLLMボードなので超おすすめ（今は売り切れ2ndロット待ち）商品です。 さらにはエッジAI用のSBCとしてもとても有能なので、便利なLinuxボードとしての使う際のTipsをまとめます。 必要な機材は以下の通りです。ほかにも随時USBケーブルやUSBカメラなども使用します。 M5Stack LLM Module 今回使用するエッジＡＩボードです。 M5Stakc Core Basic、Core2、CoreS3のいずれでもＯＫです。主に電源供給用に使用します。 Debug Board Et
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
