【福田昭のセミコン業界最前線】 DRAMの進化は容量か、それとも速度か。基本から振り返る
画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww
We’re testing the ability for ChatGPT to remember things you discuss to make future chats more helpful. You’re in control of ChatGPT’s memory. We’re testing memory with ChatGPT. Remembering things you discuss across all chats saves you from having to repeat information and makes future conversations more helpful. You’re in control of ChatGPT’s memory. You can explicitly tell it to remember somethi
This blog post is adapted from a talk that Adam Hess and I gave at RubyKaigi 2024. Until recently, Ruby lacked a mechanism for detecting native-level memory leaks from within Ruby and native gems. This was because, when Ruby terminates, it does not free the objects that are still alive or the memory used by Ruby’s virtual machine. This is because the system will reclaim all the memory used anyway,
How can I troubleshoot low freeable memory in an Amazon RDS for MySQL database? I run an Amazon Relational Database Service (Amazon RDS) for MySQL instance. I see that my available memory is low, my database is out of memory, or low memory is causing latency issues in my application. I want to identify the source of the memory utilization and troubleshoot. Short description In Amazon RDS for MySQL
ChatGPT、記憶を持つように ー 「メモリー」機能がテスト中
ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。 この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 「メモリ」の基本的な機能は、ChatGPTが対話の中でユーザーが共有した情報を覚え、それを利用して対話の一貫性や効果を向上させるものだ。 例えば、ユーザーが以前「会議のメモは見出し、箇条書き、アクションアイテムのようにまとめるのが好きだ」と伝えた場合、ChatGPTはこの情報を覚え、今後の会話でそれに基づいたメモを生成するようになる。 ユーザーはChatGPTのメモリを柔軟にコントロールできる。オプションでメモリをオンまたはオフに切り替えたり、C
In this blog, I am going to explain the important concepts of Heap and use the ptmalloc in the Glibc 2.31 library as an example. The heap is a beautiful mess :) I really like the saying shown above. The word Heap we always use refers to the dynamically allocated segment in the virtual memory space of a process, but it actually stands for the implementation of the memory pool(the dynamic memory all
【ソウル=松浦奈美】韓国サムスン電子が5日発表した2024年1〜3月期の全社営業利益は前年同期比10倍の6兆6000億ウォン（約7300億円）だった。主力の半導体メモリーの市況回復で7四半期ぶりに前年同期を上回った。世界的なインフレによる景気後退や新型コロナウイルス下の特需の反動が招いた半導体不況が転換点を迎えた。売上高は11%増の71兆ウォンだった。増収増益は22年4〜6月期以来。1〜3月期
X-Silicon、一つのコアでCPUとGPUの両方を実現できる「C-GPU」アーキテクチャ ～ 命令にはRISC-Vを活用 - Nishiki-Hub
3行まとめ 米国のスタートアップであるX-Siliconは、非常に面白い構想と展開を明らかにしました。それは、CPUとGPUの両方の処理を行えるアーキテクチャ「C-GPU」です。 C-GPU コアの構造 動作 オープン 関連リンク C-GPU 今回明かされたのは「C-GPU」（Unified Compute Graphics Engine）の計画です。このC-GPUは、GPUの命令もCPUと同じ命令にしてしまって、単一のコアでCPUとGPU両方（あるいはその他のアクセラレータ全て）の処理を行えたら良いことあるやん。というものになります。つまり、C-GPUアーキテクチャでのコアは「何でも屋」になるわけです。あるいは、CPUにもなれる、分割可能なFPGAとしても正しいでしょうか。 具体的に説明します。現在普及しているシステムにおいて、CPUとGPUは別々のアーキテクチャとして設計されています。
日本との協業を加速するTenstorrent LSTCにチップレットIPをライセンス供与：Rapidusとも提携を発表（1/2 ページ） Tenstorrentが、AI（人工知能）アクセラレーターの開発において日本との協業を加速している。2024年2月には、同社のRISC-V CPU「Ascalon」のカスタムバージョンを含む3つのチップレット設計を、日本の技術研究組合 最先端半導体技術センター（LSTC）にライセンス供与すると発表した。 Tenstorrentは2024年2月27日（米国時間）、同社のRISC-V CPU「Ascalon」のカスタムバージョンを含む3つのチップレット設計を、日本の技術研究組合 最先端半導体技術センター（LSTC）にライセンス供与すると発表した。TenstorrentのチーフアーキテクトであるWei-Han Lien氏が米EE Timesに語ったところによる
Android Weekly Topics 脱Android、Huaweiが独自OS「HarmonyOS NEXT」を発表 2024年1月19日に、Huaweiが自社製の「HarmonyOS NEXT」を発表しました。 開発者向けにはプレビュー版がリリース済みで、2024年の第4四半期にはリリースが予定されています。 HarmonyOS NEXT Developer Preview | 华为开发者联盟 HarmonyOSと言えば…… 米トランプ政権時代、Huaweiは安全保障上の懸念から米国企業との取引を禁じられました。これにより、GoogleのGMS入りのAndroidが使用できなくなったために、独自に開発したHarmonyOSが登場しました。タブレットは残っているものの、これにより国内ではスマホを見ることがなくなり、Huaweiはウェアラブルデバイス専業メーカの印象が強くなりました
May 22, 2024 In response to a recent Boats article, I mentioned that Rust’s type system drastically changes things for verification. This comment seems to have aroused a lot of interest, so I figured I’d expand on it, explaining how Rust simplifies formal verification and why this had the verification community excited for a while now. I assume that most of you reading this post won’t be experts i
西麻布 壌を閉店します｜ひとし
2024年6月21日、和風スタンディングバー「西麻布 壌 (じょう)」が閉店します。 2003年、西麻布の交差点の眼の前に「日本人が使ってサマになる、洗練されていながら気楽に使える立ち飲み屋」として生を受けた7坪の小さなお店ですが、その約21年の営業に幕を下ろすこととなります。 僕自身はすでに「西麻布 壌」を運営する株式会社グレイスの経営から完全に離れていますし、創業者の変なノスタルジーに囚われて、すべき経営判断ができなくなるような邪魔はしちゃいけません。なので閉店した方がいいと思ったら、僕に遠慮せずどの店でも閉めていいよ！と社長の國吉には言っていましたが、実際閉めるとなるとセンチメンタルな気持ちになりますね。 そもそも、グレイスの1号店だった「居酒屋せいざん」は、他の人がやるはずだったお店を（いろいろな事情があって）自分で巻き取ったお店でしたから、自分が作りたいお店をゼロから立ち上げた「
Me, Surma, and Jason were hacking on a thing, and discovered that garbage collection within a function doesn't quite work how we expected. function demo() { const bigArrayBuffer = new ArrayBuffer(100_000_000); const id = setTimeout(() => { console.log(bigArrayBuffer.byteLength); }, 1000); return () => clearTimeout(id); } globalThis.cancelDemo = demo(); With the above, bigArrayBuffer is leaked fore
When allocating unused memory boosts performance by 2x | Quickwit
memoryprofilingtoolengineeringWhen allocating unused memory boosts performance by 2x Term aggregations are one of the key aggregations in our search engine quickwit. They can give you crucial insight into your logs and a typical query would be to count the number of occurrences per log level over a period of time. In SQL, they would be the equivalent of: While they perform excellently at lower car
米エヌビディアを起点にした人工知能（AI）関連株の物色が半導体メモリー株に及んでいる。生成AI向けの画像処理半導体（GPU）に組み込む高性能メモリーの需要が急拡大しているためだ。5日にはメモリー大手、韓国サムスン電子が4〜6月期決算の速報値を公表する。半導体株相場の行方を占いそうだ。メモリー株では、韓国SKハイニックスと米マイクロン・テクノロジーの上昇が目立つ。SKの株価は2023年末比で66
Microsoftは9月14日(米国時間)、「Uncursing the ncurses: Memory corruption vulnerabilities found in library｜Microsoft Security Blog」において、テキストユーザインタフェース(TUI: Text User Interface)をサポートする「ncurses」と呼ばれるライブラリにメモリ破損の脆弱性を発見したと伝えた。この脆弱性は2023年4月8日(米国時間)までに修正されている。 Uncursing the ncurses: Memory corruption vulnerabilities found in library｜Microsoft Security Blog ncursesは1993年にリリースされた歴史のあるソフトウェアで、現在でもLinux、macOS、FreeBSD
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される
【笠原一輝のユビキタス情報局】 メモリも入ったASUS特別パッケージのIntel CPUは、Lunar Lakeへの道
Samsung、SO-DIMMの半分以下の大きさのメモリ「LPCAMM」を製品化
Memory and new controls for ChatGPT
【福田昭のセミコン業界最前線】 3D XPointを超える大容量メモリ技術「セレクタオンリーメモリ」
【福田昭のセミコン業界最前線】 2010年代後半以降のDRAMトレンド、微細化と記憶密度に関する偽説のカラクリを暴く
Finding Memory Leaks in the Ruby Ecosystem
Troubleshoot low freeable memory in Amazon RDS for MySQL
Understanding the Heap - a beautiful mess
サムスン7四半期ぶり営業増益 1〜3月、半導体が回復 - 日本経済新聞
日本との協業を加速するTenstorrent LSTCにチップレットIPをライセンス供与
脱Android、Huaweiが独自OS「HarmonyOS NEXT」を発表 | gihyo.jp
xavxav - Visions of the future: formal verification in Rust
Garbage collection and closures
半導体株物色、NVIDIAの次はメモリー 上昇率が指数の２倍 点検 半導体株 - 日本経済新聞
MacやLinuxで使う「ncurses」に重要な脆弱性、Microsoftが報告