画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww
We’re testing the ability for ChatGPT to remember things you discuss to make future chats more helpful. You’re in control of ChatGPT’s memory. We’re testing memory with ChatGPT. Remembering things you discuss across all chats saves you from having to repeat information and makes future conversations more helpful. You’re in control of ChatGPT’s memory. You can explicitly tell it to remember somethi
This blog post is adapted from a talk that Adam Hess and I gave at RubyKaigi 2024. Until recently, Ruby lacked a mechanism for detecting native-level memory leaks from within Ruby and native gems. This was because, when Ruby terminates, it does not free the objects that are still alive or the memory used by Ruby’s virtual machine. This is because the system will reclaim all the memory used anyway,
How can I troubleshoot low freeable memory in an Amazon RDS for MySQL database? I run an Amazon Relational Database Service (Amazon RDS) for MySQL instance. I see that my available memory is low, my database is out of memory, or low memory is causing latency issues in my application. I want to identify the source of the memory utilization and troubleshoot. Short description In Amazon RDS for MySQL
ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 ChatGPTが進化を遂げ、新たな機能「メモリ」が導入された。 この新機能により、ChatGPTはユーザーとの対話から得た情報を記憶し、将来の対話で活用することが可能となる。 「メモリ」の基本的な機能は、ChatGPTが対話の中でユーザーが共有した情報を覚え、それを利用して対話の一貫性や効果を向上させるものだ。 例えば、ユーザーが以前「会議のメモは見出し、箇条書き、アクションアイテムのようにまとめるのが好きだ」と伝えた場合、ChatGPTはこの情報を覚え、今後の会話でそれに基づいたメモを生成するようになる。 ユーザーはChatGPTのメモリを柔軟にコントロールできる。オプションでメモリをオンまたはオフに切り替えたり、C
In this blog, I am going to explain the important concepts of Heap and use the ptmalloc in the Glibc 2.31 library as an example. The heap is a beautiful mess :) I really like the saying shown above. The word Heap we always use refers to the dynamically allocated segment in the virtual memory space of a process, but it actually stands for the implementation of the memory pool(the dynamic memory all
3行まとめ 米国のスタートアップであるX-Siliconは、非常に面白い構想と展開を明らかにしました。それは、CPUとGPUの両方の処理を行えるアーキテクチャ「C-GPU」です。 C-GPU コアの構造 動作 オープン 関連リンク C-GPU 今回明かされたのは「C-GPU」(Unified Compute Graphics Engine)の計画です。このC-GPUは、GPUの命令もCPUと同じ命令にしてしまって、単一のコアでCPUとGPU両方(あるいはその他のアクセラレータ全て)の処理を行えたら良いことあるやん。というものになります。つまり、C-GPUアーキテクチャでのコアは「何でも屋」になるわけです。あるいは、CPUにもなれる、分割可能なFPGAとしても正しいでしょうか。 具体的に説明します。現在普及しているシステムにおいて、CPUとGPUは別々のアーキテクチャとして設計されています。
日本との協業を加速するTenstorrent LSTCにチップレットIPをライセンス供与:Rapidusとも提携を発表(1/2 ページ) Tenstorrentが、AI(人工知能)アクセラレーターの開発において日本との協業を加速している。2024年2月には、同社のRISC-V CPU「Ascalon」のカスタムバージョンを含む3つのチップレット設計を、日本の技術研究組合 最先端半導体技術センター(LSTC)にライセンス供与すると発表した。 Tenstorrentは2024年2月27日(米国時間)、同社のRISC-V CPU「Ascalon」のカスタムバージョンを含む3つのチップレット設計を、日本の技術研究組合 最先端半導体技術センター(LSTC)にライセンス供与すると発表した。TenstorrentのチーフアーキテクトであるWei-Han Lien氏が米EE Timesに語ったところによる
Android Weekly Topics 脱Android、Huaweiが独自OS「HarmonyOS NEXT」を発表 2024年1月19日に、Huaweiが自社製の「HarmonyOS NEXT」を発表しました。 開発者向けにはプレビュー版がリリース済みで、2024年の第4四半期にはリリースが予定されています。 HarmonyOS NEXT Developer Preview | 华为开发者联盟 HarmonyOSと言えば…… 米トランプ政権時代、Huaweiは安全保障上の懸念から米国企業との取引を禁じられました。これにより、GoogleのGMS入りのAndroidが使用できなくなったために、独自に開発したHarmonyOSが登場しました。タブレットは残っているものの、これにより国内ではスマホを見ることがなくなり、Huaweiはウェアラブルデバイス専業メーカの印象が強くなりました
May 22, 2024 In response to a recent Boats article, I mentioned that Rust’s type system drastically changes things for verification. This comment seems to have aroused a lot of interest, so I figured I’d expand on it, explaining how Rust simplifies formal verification and why this had the verification community excited for a while now. I assume that most of you reading this post won’t be experts i
2024年6月21日、和風スタンディングバー「西麻布 壌 (じょう)」が閉店します。 2003年、西麻布の交差点の眼の前に「日本人が使ってサマになる、洗練されていながら気楽に使える立ち飲み屋」として生を受けた7坪の小さなお店ですが、その約21年の営業に幕を下ろすこととなります。 僕自身はすでに「西麻布 壌」を運営する株式会社グレイスの経営から完全に離れていますし、創業者の変なノスタルジーに囚われて、すべき経営判断ができなくなるような邪魔はしちゃいけません。なので閉店した方がいいと思ったら、僕に遠慮せずどの店でも閉めていいよ!と社長の國吉には言っていましたが、実際閉めるとなるとセンチメンタルな気持ちになりますね。 そもそも、グレイスの1号店だった「居酒屋せいざん」は、他の人がやるはずだったお店を(いろいろな事情があって)自分で巻き取ったお店でしたから、自分が作りたいお店をゼロから立ち上げた「
Me, Surma, and Jason were hacking on a thing, and discovered that garbage collection within a function doesn't quite work how we expected. function demo() { const bigArrayBuffer = new ArrayBuffer(100_000_000); const id = setTimeout(() => { console.log(bigArrayBuffer.byteLength); }, 1000); return () => clearTimeout(id); } globalThis.cancelDemo = demo(); With the above, bigArrayBuffer is leaked fore
memoryprofilingtoolengineeringWhen allocating unused memory boosts performance by 2x Term aggregations are one of the key aggregations in our search engine quickwit. They can give you crucial insight into your logs and a typical query would be to count the number of occurrences per log level over a period of time. In SQL, they would be the equivalent of: While they perform excellently at lower car
Microsoftは9月14日(米国時間)、「Uncursing the ncurses: Memory corruption vulnerabilities found in library|Microsoft Security Blog」において、テキストユーザインタフェース(TUI: Text User Interface)をサポートする「ncurses」と呼ばれるライブラリにメモリ破損の脆弱性を発見したと伝えた。この脆弱性は2023年4月8日(米国時間)までに修正されている。 Uncursing the ncurses: Memory corruption vulnerabilities found in library|Microsoft Security Blog ncursesは1993年にリリースされた歴史のあるソフトウェアで、現在でもLinux、macOS、FreeBSD
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く