サクサク読めて、アプリ限定の機能も多数!
全部SRAMに乗れば良いが乗らず、ボード間の通信で帯域一気に減るし遅延あるし、SRAMメリット活かせないわけで、帯域も容量も大きいメモリ必要だと思うがな
qpci32siekqd のブックマーク 2024/02/21 18:02
大規模言語モデル(LLM)を爆速で動作させる「言語処理ユニット(LPU)」を開発する「Groq」が爆速アルファデモを公開全部SRAMに乗れば良いが乗らず、ボード間の通信で帯域一気に減るし遅延あるし、SRAMメリット活かせないわけで、帯域も容量も大きいメモリ必要だと思うがな2024/02/21 18:02
このブックマークにはスターがありません。 最初のスターをつけてみよう!
gigazine.net2024/02/21
大規模言語モデル(LLM)などを実行するために設計されたカスタムハードウェアである言語処理ユニット(LPU)を開発するGroqが、既存のLLMを爆速で動作させることができるアルファ版デモンストレーションを公開しまし...
26 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /
全部SRAMに乗れば良いが乗らず、ボード間の通信で帯域一気に減るし遅延あるし、SRAMメリット活かせないわけで、帯域も容量も大きいメモリ必要だと思うがな
このブックマークにはスターがありません。
最初のスターをつけてみよう!
大規模言語モデル(LLM)を爆速で動作させる「言語処理ユニット(LPU)」を開発する「Groq」が爆速アルファデモを公開
大規模言語モデル(LLM)などを実行するために設計されたカスタムハードウェアである言語処理ユニット(LPU)を開発するGroqが、既存のLLMを爆速で動作させることができるアルファ版デモンストレーションを公開しまし...
26 人がブックマーク・3 件のコメント
\ コメントが サクサク読める アプリです /