2024-07-13「大吉祥寺.pm」の発表資料です。 参考となる情報にはPDF中からリンクをしていますが、資料中のリンクは Speaker Deck 上ではクリックできないので PDF をダウンロードしてご覧ください。
Linux コンテナの歴史を追うとコンテナの仕組みがわかる / Dai Kichijoji pm
2024-07-13「大吉祥寺.pm」の発表資料です。 参考となる情報にはPDF中からリンクをしていますが、資料中のリンクは Speaker Deck 上ではクリックできないので PDF をダウンロードしてご覧ください。
自身の過去の成長過程と現在の環境を思い浮かべたときに、得やすいもの得づらいものの違いを強く感じ、良好な成長のために一考してみた次第です。 といっても既にある Tweet のセルフまとめに、思い出と昔話なポエムを追加したようなチラ裏回です。 時代の変遷によるステータス変化 要約すると、現代は技術力の向上に必要な環境と既定路線があって向上速度が早いのに対し、昔（2010年以前とか）は頭を悩ませまくって乗り越えるべき壁が大量にあったおかげで解決力は相当鍛えられたよねってところ。 個人的には誰であれ、今！自分が！解決しないと！詰んでしまう!! てかもう詰んでるだろコレ!!!! って状況でひたすら悩んでから、寝て起きたら解決したよぉ！みたいのを体験してほしいし、一度は死の淵まで行ってこいって思っている — 外道父 | Noko (@GedowFather) July 17, 2024 これについて、
大規模言語モデル (LLM) の学習データに含まれない知識（各社の特有の書類など）を踏まえてLLMに回答させる際に最早必須となってきたRAG (Retrieval-Augumented Generation)。 今回はそんなRAGのSurvey論文を元に、RAGの変遷や構成要素、新たに出てきた技術を俯瞰していきます。 Survey論文へのリンクはこちら arxiv.org RAGとは LLMはそれ単体で回答させると、質問によってはハルシネーションや学習時のデータにはなかった情報を生成時に加味できないといった問題から正しくない回答を生成することが多々あります。例えば世間一般に公開されていない自社の就業規則や業務標準についてをChatGPTに質問しても、正しい回答は得られません。 そのような問題への対応としてRAGが使われます。 「LLM単体で適切な回答を生成できないなら、ユーザーの質問を元に
malloc.c を読む (malloc / free)
このシリーズではこれらの関数が内部でどのように処理されるのかを調べていきます。 malloc.c を読む (malloc / free) malloc.c を読む (bins) malloc.c を読む (arena) 今回は malloc() free() の全体像を紹介します。 注意としてここでの目的は全体を俯瞰して、詳細を詰めずとも各 bins の役割を理解し、攻撃手法を理解できるようにすることです。それに合わないマルチスレッドや最適化などにおける緻密なトリックやコーナーケースなどは暗黙的に実装されていると仮定します。その詳細についてはソースコードや他の資料を参考にしていただきたいです。 ここで扱う glibc のバージョンは v2.38 です。また glibc のソースコードはブラウザ上で読むことができます。 https://elixir.bootlin.com/glibc/lat
ログ基盤のFluentdをFluent Bitに移行して監視ツールを実装した話 - Mirrativ Tech Blog
はじめまして、Azuma（@azuma_alvin）です。現在大学院の1年生で、2024年2月から4ヶ月間ミラティブのインフラチームにインターンとして参加しました。普段はインフラやMLOpsといった領域に興味があり、最近はVim環境の整備がマイブームです。 本記事では、ログ基盤をFluentdからFluent Bitへ部分移行した経緯とその2種類の監視ツールの実装についてお話しします。 記事の最後に、インターンから見たインフラチームの特徴と私が4ヶ月間で学んだことを紹介しています。興味がある方は末尾までスクロールしてぜひご覧ください。 1. 背景と目的 2. ミラティブのログ基盤について 3. ログ欠損の原因調査 Fluentdのバッファリングの仕組み fsnotifyを用いたバッファリングの観察 負荷試験 日付時刻フォーマットとワイルドカードによるログ欠損 ログ保存とサーバータイムスタン
MySQL is certainly a powerful open source database management system, but even the most robust engine struggles when queries take an eternity to execute. For DBAs and developers, improving MySQL query performance is an ongoing goal. Efficient query performance is crucial for ensuring the smooth operation and optimal user experience of applications powered by MySQL databases. When businesses rely h
はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ
regreSSHion: Remote Unauthenticated Code Execution Vulnerability in OpenSSH server | Qualys Security Blog
The Qualys Threat Research Unit (TRU) has discovered a Remote Unauthenticated Code Execution (RCE) vulnerability in OpenSSH’s server (sshd) in glibc-based Linux systems. CVE assigned to this vulnerability is CVE-2024-6387. The vulnerability, which is a signal handler race condition in OpenSSH’s server (sshd), allows unauthenticated remote code execution (RCE) as root on glibc-based Linux systems;
Google ChromeにはGoogleだけがアクセスできる隠しAPIがプリインストールされていることが判明、EdgeやBraveなどのChromiumベースのブラウザも同様
JavaScript Registry(JSR)やDenoの開発者であるLuca Casonato氏が、Google純正のウェブブラウザであるGoogle ChromeにはGoogle関連のウェブサイトしかアクセスできないAPIがプリインストールされていると指摘しています。 Casonato氏によると、Google ChromeはすべてのGoogle関連サイトにシステムおよびタブ上でのCPU使用率・GPU使用率・メモリ使用率といった情報への完全なアクセス権限を付与しています。他にも、より詳細なプロセッサ情報へのアクセス権限や、ログを記録するバックチャンネルへのアクセス権限も付与しているそうです。これらを実現するAPIは、他のウェブサイト向けには公開されておらず、Googleが自社サイトでのみ利用しているものであると、Casonato氏は指摘しています。 So, Google Chrome
先日、わたし、YouTubeに出演してまいりました。書店チェーンの有隣堂さんの超人気YouTubeチャンネル「有隣堂しか知らない世界」に“電卓博士”として出演させていただいたのです。 「有隣堂しか知らない世界」はチャンネル登録者数が29万人。すごいですね。略称は「ゆうせか」で、視聴者は「ゆーりんちー」と呼ばれているそうです。 番組MCはR.B.ブッコローさんです。正直なミミズクさんで、ブッコローさんからは「シャープの王道の人から見たら『うちの会社って、電卓つくってたっけ』みたいなポジション？」というご質問もいただきました。（全く怒っていないです！）そこでわたしも、少数精鋭の電卓グループを代表して、会社員人生の約半分、15年以上にわたって電卓に関わってきた技師として、電卓の良さを率直にお伝えしてまいりました。 出演にあたっては、ブッコローさんにどんな質問をされても答えられるように、わたしもあ
業界業務の経験豊富な「その道のプロ」に、1時間からピンポイントに相談できる日本最大級のスポットコンサル「ビザスク」。そのビザスク主催のセミナーに、『武器としての戦略フレームワーク』の著者で、國學院大学 経済学部 経営学科教授の手塚貞治氏が登壇。「アイデア創出 実践論」をテーマに、普及するフレームワークが備える要件を解説しました。 前回の記事はこちら 普及するフレームワークが備える5つの要件 手塚貞治氏（以下、手塚）：フレームワークを妥当性あるものとして納得させるには、いくつかの要件をクリアすることが必要です。ここで、5つほど要件を挙げます。 すべてを満たす必要はありませんが、いくつかをクリアしていないとフレームワークとして認められないでしょう。 1つめは、「権威づけがある」ことです。例えば、「戦略策定は、プランニング、プレゼンテーション、プロジェクトマネジメントの3Pだ」と私が言ったとしま
こんにちは。サーバーサイドエンジニアの @atolix_です。 今回はメドピアで本番運用をしているアプリケーションの1つであるやくばと for Clinicにて、Ruby 3.2からRuby 3.3にアップデートを行った際のパフォーマンスの変化を計測しました。 Ruby 3.3ではYJITの大幅な改善が含まれているので、これによるアプリケーションへの影響を確認していきます。 www.ruby-lang.org gihyo.jp 前提 本記事に記載されたデータは以下の条件で計測をしています。 Rails: 7.1.3.4 YJIT有効化時のオプションは特に付与していない状態(Dockerfileから環境変数を与えて有効化) 3.2.4(+YJIT)から3.3.1(+YJIT)へのアップデート 有効化前後の1週間を比較 パフォーマンスの変化 やくばと for Clinicではモノレポのアプリケ
SummaryMost visual programming environments fail to get any usage. Why? They try to replace code syntax and business logic but developers never try to visualize that. Instead, developers visualize state transitions, memory layouts, or network requests. In my opinion, those working on visual programming would be more likely to succeed if they started with aspects of software that developers already
GitHub - aws/aws-secretsmanager-agent: The AWS Secrets Manager Agent is a local HTTP service that you can install and use in your compute environments to read secrets from Secrets Manager and cache them in memory.
The AWS Secrets Manager Agent is a client-side HTTP service that you can use to standardize consumption of secrets from Secrets Manager across environments such as AWS Lambda, Amazon Elastic Container Service, Amazon Elastic Kubernetes Service, and Amazon Elastic Compute Cloud. The Secrets Manager Agent can retrieve and cache secrets in memory so that your applications can consume secrets directly
Please note that the benchmark section of this article was updated after the publication due to a mistake in the evaluation script. BM42 does not outperform BM25 implementation of other vendors. Please consider BM42 as an experimental approach, which requires further research and development before it can be used in production.For the last 40 years, BM25 has served as the standard for search engin
Transformers高速化ライブラリvLLMのAsyncLLMEngineを利用した非同期高速文章生成 - 端の知識の備忘録
概要 先日までKaggleのAIMOコンペ(数学の問題をLLMに解かせて正答率を競う)に参戦していました。結果は初のチーム参加でメンバーに助けられつつ運もあり、なんとか銀メダルを取れました！これでMasterにリーチがかかりましたが、金メダルは未だ取れる気がしないので遠い道のりです……。 www.kaggle.com このコンペについて、近い内に同様のコンペが開催予定なこともあり上位解法があまり出ていない状態なので、どのような手法が良かったのかまだわかっていないのですが、とりあえず公開されている情報を元にすると、 LLMとしてはほぼほぼ全員が数学問題に特化したLLMであるDeepseek-Math-7Bを利用している LLMが出力したPythonコードを実行するインタープリターを実装することで、LLMのハルシネーションによる計算ミスを防ぐパイプラインが有力であった LLMの出力を比較的高い
Never* use Datagrams Click-bait title, but hear me out. TCP vs UDP So you’re reading this blog over the internet. I would wager you do a lot of things over the internet. If you’ve built an application on the internet, you’ve undoubtedly had to decide whether to use TCP or UDP. Maybe you’re trying to make, oh I dunno, a live video protocol or something. There are more choices than just those two bu
画像生成AIや大規模言語モデルなどの計算処理にグラフィックボードを用いる場合、「GPUの処理性能」のほかに「VRAMの容量」も重視されます。グラフィックボードにVRAMを増設することは基本的に不可能なのですが、新たにハードウェアメーカーのPanmnesiaがグラフィックボードへのメモリ外付け増設を可能にするシステム「CXL-GPU」を開発しました。 CXL-GPU (PDFファイル)https://panmnesia.com/uploads/panmnesia-CXL-GPU.pdf GPUs can now use PCIe-attached memory or SSDs to boost VRAM capacity —Panmnesia's CXL IP claims double-digit nanosecond latency | Tom's Hardware https://ww
GitHub - NVIDIA/multi-gpu-programming-models: Examples demonstrating available options to program multiple GPUs in a single node or a cluster
This project implements the well known multi GPU Jacobi solver with different multi GPU Programming Models: single_threaded_copy Single Threaded using cudaMemcpy for inter GPU communication multi_threaded_copy Multi Threaded with OpenMP using cudaMemcpy for inter GPU communication multi_threaded_copy_overlap Multi Threaded with OpenMP using cudaMemcpy for itner GPU communication with overlapping c
Beating the compiler
In modern times, everyone knows that writing assembly is a fool's errand: compilers are the result of literal engineer-centuries of work, and they know the processor much better than you do. And yet – one hears rumors. Written in ancient tomes, muttered in quiet watering holes, scrawled on the walls of bygone temples, hinted at by mysterious texts; the rumors paint a specific picture: Compilers ar
My team at Alderon Games, working on the multiplayer dinosaur survival game Path of Titans, has been encountering significant problems with Intel CPU stability. These issues, including crashes, instability, and memory corruption, are confined to the 13th and 14th generation processors. Despite all released microcode, BIOS, and firmware updates, the problem remains unresolved. We have identified fa
CPU・2D・3D・メモリ・ディスクの5項目で徹底的にベンチマークするWindows版「PassMark PerformanceTest」Ver.11レビュー
「CPU」「2Dグラフィックス」「3Fグラフィックス」「メモリ」「ディスク速度」の5項目について、それぞれ複数のベンチマークを行って詳細な数値化を行ってくれるベンチマークソフトが「PassMark PerformanceTest」です。 かつて「Performance Test 7」および「Performance Test バージョン10.0」をレビューしたことがありますが、記事作成時点の最新バージョンは11.0とのことなので、改めてベンチマークを行ってみました。 PassMark PerformanceTest - PC benchmark software https://www.passmark.com/products/performancetest/index.php ◆ダウンロード＆インストール まずは公式サイトのダウンロードページに移動して、自分の環境に応じたファイルをダウン
Ruby は String をメモリ上でどのように扱っているのか？ | IIJ Engineers Blog
電子メール、ネットワーク機器集中管理、異常検知、分散処理、クラウド基盤などのシステム開発に従事。古代Rubyist。 先日、 Ruby (CRuby) が String をメモリ上でどのように扱っているのか気になって調べていました。そこで String の構造体やメモリの扱いとその変遷が興味深いと思ったので、ちょっとまとめてみました。 Ruby のオブジェクトのデータ構造 まず前提知識として、そもそも Ruby が C の世界でオブジェクトをどのようなデータ構造で持っているかをざっくりおさらいします。 VALUE 型 Ruby の内部ではオブジェクトを VALUE 型という型の変数で取り扱っています。 // include/ruby/internal/value.h typedef unsigned long VALUE; 宣言の通り VALUE 型の実体は unsigned long で
【完全版】GPT-4o超えで話題沸騰のClaude 3.5 Sonnetの使い方と活用事例15選を徹底解説《プロンプトテンプレートと他LLMとの比較付》 7,000文字近くの決定版。｜チャエン | 重要AIニュースを毎日発信⚡️
みなさん、こんにちは。 チャエンです！（自己紹介はこちら） こないだChatGPT-4oで盛り上がったのが、過去に感じるくらいの新たなアップデートが来ました。またClaudeの時代が到来です🔥 【速報：GPT-4oを超えるClaude 3.5が登場】 実際に試してみたが、性能良いです。 しかも、コード書きながらリアルタイムで編集してプレビューができる機能も搭載。 ここに来て、またClaudeの時代が来る。 現状、Gemini、ChatGPTを抑えてNo.1の性能。 有料課金者は既に利用可能です。 ■要点… pic.twitter.com/kO7zqee8R4 — チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) June 20, 2024 Claudeには、Opus > Sonnet > Haikuの3つのモデルが存在しています。今回は、中間モデルSonne
今回用意したプレゼントは全部で85品目。レビューのために使用した機器や取材先で手に入れたグッズなどを読者に大放出しています。アクセス解析だけではわからない「GIGAZINEを読んでいるのはどういう人たちなのか？」という点をリサーチしてGIGAZINも兼ねているので「プレゼントはいらないけどアンケートには協力してもイイヨ！」という場合も回答してもらえると非常にありがたいです！ ◆応募期間 2024年7月19日(金)から2024年8月4日(日)23時59分まで。 ◆プレゼント番号リスト ◆01：アトムテック「ATOM Full eBike ：1台(ヘルメットおよび専用ソーラーパネル同梱)」(1名様) 単品価格税別19万8000円、16歳以上の人が免許不要で乗ることのできる特例特定小型原動機付自転「ATOM Full eBike」をプレゼントします。応募は16歳以上限定とします。 アトムテックの
Awesome Rust checkers Table of contents Awesome Rust checkers Table of contents Linters Static Checkers Dynamic Checkers Verifiers1 Linters Name Description Working on Bug types Technology Maintenance clippy A bunch of lints to catch common mistakes and improve your Rust code. HIR Versatile Pattern matching ★★★★★ dylint Run Rust lints from dynamic libraries HIR Versatile Pattern matching ★★★★★ Sta
Why Google Sheets ported its calculation worker from JavaScript to WasmGC Stay organized with collections Save and categorize content based on your preferences. Google Sheets is one of the first products at Google to use WasmGC on Chrome. The move was announced in 2022, and the Sheets and Chrome teams partnered on standardization, engineering, and tooling to provide real-time feedback on optimizat
ゼロからはじめるOpenShift Virtualization（1）OpenShiftのインストール - 赤帽エンジニアブログ
Red Hatでソリューションアーキテクトをしている田中司恩(@tnk4on)です。 この連載はvSphere環境上にOpenShift Container Platform（以下、OpenShift）およびOpenShift Virtualizationの環境構築を解説するシリーズです。 可能な限り最小構成での検証環境の構築を目指し、1台のESXi上にOpenShiftをインストールしてネスト仮想環境でOpenShift Virtualizationを実行する方法を解説します。 また環境の構築後はvSphere上の仮想マシンを移行ツール（Migration Toolkit for Virtualization）を使ってOpenShift Virtualization上へ移行することもできます。 初回の本記事ではOpenShiftのインストールについて解説します。 今後の連載予定は下記の通
前回「VAXELN」の記事を書いたから、というわけではないのだが、ひょんなところで名前が出て話題になっていたので、そのあたりを交えて今回は「RT-11」を紹介したい。 ⇒連載記事「リアルタイムOS列伝」バックナンバー 数年ごとに話題になるUNIXの“/usr”ディレクトリの語源 ひょんなところでというのは、LinuxというかUNIXの“/usr”ディレクトリは何に由来しているのかという話である。これ、数年ごとに話題になるのだが、最近だとBytebytegoの2024年6月12日のPostで再び話題になった。 ここでは/usrが“UNIX System Resources”の略（“UNIX Shared Resources”や“UNIX Services and Routines”の説もある）という話になっており（確かに、UNIXのSystem Resourcesといわれても無理がないのが現
今日はアオイの命日 - 猫とビー玉
当ブログにはアフィリエイト広告を掲載しています ６月２６日 今日はアオイが天国へ行った日です。 今でも、あの日のことを思い出すと悲しくてたまりません。 アオイの思い出の写真を載せますね。 可愛いアオイを見ていってください。 リビングでトンボじゃらしを狙うアオイ。 追いかけたあとはちょっとお疲れ。 三毛猫みーたんにパンチ！ でもアオイは優しいので そーっと。 寒がりさんだったので、寒い時期はホットカーペットでブランケットを被せてあげてました。 夏はひんやりした廊下で涼みました。 ちょっと眠そう。 ボードの上もお気に入り。 ここでよくお昼寝してました。 外を眺めるのも大好き。 そのアオイを眺めるのが、私は大好きでした。 眺め疲れて眠るアオイ。 可愛かった。 ゴハンを催促するアオイ。 食欲がないことも多かったので、催促されることがめちゃくちゃ嬉しかったです。 きっと天国でもこんな風に催促してるん
「Lunar Lake」Deep Diveレポート - 【Part 1】P-Core＆E-CoreとPackageについて
レポート 「Lunar Lake」Deep Diveレポート - 【Part 1】P-Core＆E-CoreとPackageについて 既報の通り、IntelはLunar Lakeこと次世代Core Ultraの詳細をCOMPUTEXのタイミングで公開した。こちらについて、Intelの資料を基にもう少し掘り下げてご紹介したいと思う。 Package 先の記事にも、ASUSのZenBookの基板に搭載されたLunar Lakeの写真があったが、これの別スナップ(撮影は同じく笠原光氏)をもう少し拡大したのがこちら(Photo01)。パッケージ全体はかなり正方形に近いが、微妙に縦長である(幅27mm×高27.5mm)。Lunar LakeもMeteor Lake同様にFoverosを利用したChiplet構成であるが、Meteor Lakeと異なりLPDDR5Xもパッケージに積層する関係で高さが合
This blog post is adapted from a talk that Adam Hess and I gave at RubyKaigi 2024. Until recently, Ruby lacked a mechanism for detecting native-level memory leaks from within Ruby and native gems. This was because, when Ruby terminates, it does not free the objects that are still alive or the memory used by Ruby’s virtual machine. This is because the system will reclaim all the memory used anyway,
This document is distributed as TLP:CLEAR. Disclosure is not limited. Sources may use TLP:CLEAR when information carries minimal or no foreseeable risk of misuse, in accordance with applicable rules and procedures for public release. Subject to standard copyright rules. TLP:CLEAR information may be distributed without restrictions. For more information on the Traffic Light Protocol, see cisa.gov/t
If you ever tried to learn guitar, chances are you are familiar with guitar tablatures. It is a simple way to visualize music for guitar, using ASCII characters to represent strings and frets as an alternative to sheet music. For instance, here are the first four measures of the song "Smoke on the Water" by Deep Purple: e|-----------------|-----------------|-----------------|-----------------| B|-
NVIDIA Transitions Fully Towards Open-Source GPU Kernel Modules | NVIDIA Technical Blog
NVIDIA Transitions Fully Towards Open-Source GPU Kernel Modules With the R515 driver, NVIDIA released a set of Linux GPU kernel modules in May 2022 as open source with dual GPL and MIT licensing. The initial release targeted datacenter compute GPUs, with GeForce and Workstation GPUs in an alpha state. At the time, we announced that more robust and fully-featured GeForce and Workstation Linux suppo
概要 Anthropic 社の生成 AI サービスである Claude から Projects という機能が新しく公開されました。今回は、この Projects に特定のライブラリのリファレンスをコンテキストとして入れ、そのリファレンスをもとにこちらの質問に回答できるのかを試してみます。 モチベーション 多くの IT エンジニアがコーディング作業で ChatGPT や Claude , Gemini などの生成 AI を活用しているかと思いますが、 新しくリリースされたライブラリやリポジトリを利用する場合、生成 AI に質問をしても適切に回答してくれないことが多いです。また、活発に開発が行われているライブラリの場合、生成 AI に質問をしても回答内容が最新のものではないということも多々起こります。 このような場合に、新機能である Projects にライブラリのリファレンスの情報を与え、質
レポート 「Lunar Lake」Deep Diveレポート - 【Part 2】Memory、GPU、NPUについて 前回はP-CoreとE-Coreの話に終始してしまったので、今回はもう少し広範な話をしたい。 謎のMemory Side Cache Photo01は基調講演のスライドから切り出して、ついでに複数のスライドの情報を重ね合わせたものである。上側がCompute Tileであるが、向かって右端にP-Core×4+12MB L3 Cache、その下にIPU(Image Processing Unit:通常ならISPと呼ばれるが、要するにカメラ入力に対応した画像処理エンジン)、右にNoCが入り、そのNoCの上にMedia EngineとMemory Side Cache、NOCの下にE-Core×4+4MB L2 CacheとDisplay Engine、その左がNPUとなり、一
CloudFront Hosting Toolkitを使って静的Webサイト環境を作ってみた | DevelopersIO
手間をかけずにCloudFrontを使った静的Webサイトを作りたい こんにちは、のんピ(@non____97)です。 皆さんは手間をかけずにCloudFrontを使った静的Webサイトを作りたいなと思ったことはありますか? 私はあります。 過去にAWS CDKを使ってこの思いを実現したことがありますが、一からAWS CDKを作り込むのはなかなか大変でした。 そんな苦労はCloudFront Hosting Toolkitを使用すると少し解消されるかもしれません。 CloudFront Hosting ToolkitはCLIまたはAWS CDKでフロントエンドのホスティングとCI/CDパイプラインを用意するツールです。 今だとAmplifyを使えば良いのではないか? という声も聞こえてきますが、細かいカスタマイズを行いたい場合にCloudFront周りを直接操作したい場合があります。そうい
サイバーエージェントの「生成AI用ネットワーク」の作り方 イーサネットで分散学習基盤｜BUSINESS NETWORK
GPUクラスターによる分散学習基盤を支える“ロスレス”ネットワークをイーサネットで構築・運用するには、どんな技術と仕組みが必要なのか。先駆者であるサイバーエージェントの実践例から探る。 GPU間通信に専用リンク 「1つのネットワークで複数の要件を満たすことは、もう難しい。ストレージ用、インターネットとの通信用、そしてGPU同士のインターコネクト用と、用途別にネットワークを分けて作らなければならなくなったことが今までとの違いだ。しかも、その種類はどんどん増えていく」 2023年春に日本で初めてNVIDIA DGX H100を導入し、社内向けの生成AI基盤「ML Platform」を構築したサイバーエージェント。同基盤のネットワーク構築・運用を担うCIU Platform Div ネットワークリーダーの内田泰広氏は、データセンター（DC）ネットワークの変化についてそう語る。 （左から）サイバー
2024年3月に仕様が確定したグラフィックボード向けの高速メモリ規格「GDDR7」のメモリを、半導体大手のMicronが開発しました。MicronのGDDR7メモリは、前世代のGDDR6と比較して大幅に帯域幅が増加し、電力効率やゲーム性能も大きく向上しているとのことです。 マイクロン、 ゲームとAI向けの次世代グラフィックスメモリのサンプル提供開始 | Micron Technology https://investors.micron.com/news-releases/news-release-details/maikuron-10 GDDR7 | Micron Technology Inc. https://www.micron.com/products/memory/graphics-memory/gddr7 Micron says GDDR7 will provide a 30%
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
エンジニアの成長における過去と現代の違い | 外道父の匠
RAGのSurvey論文からRAG関連技術を俯瞰する - 元生技のデータサイエンティストのメモ帳
Ultimate Guide to Improving MySQL Query Performance
ローカルLLMとRAGで自分の外部記憶を強化しよう - VA Linux エンジニアブログ
「有隣堂しか知らない世界」に電卓博士として出演した ｜SHARP
「マッキンゼーの7S」と「ビジネスモデルキャンバス」が普及した理由 ビジネスの現場で使われるフレームワークが備える5つの要件
Ruby 3.3(+YJIT)へのアップデートによるパフォーマンス変化の計測 - メドピア開発者ブログ
We need visual programming. No, not like that.
BM42: New Baseline for Hybrid Search - Qdrant
Never* use Datagrams - Media over QUIC
グラボのVRAMを外付け増設可能にする低遅延データ転送システムが開発される
Intel is selling defective CPUs - Alderon Games
GIGAZINE夏のプレゼント大放出企画「アンケートに答えて全部持っていってください！」
A curated list of awesome Rust checkers
Why Google Sheets ported its calculation worker from JavaScript to WasmGC | web.dev
「RT-11」はUNIXの“/usr”ディレクトリの語源なのか 歴史と機能から検証する
Finding Memory Leaks in the Ruby Ecosystem
Modern Approaches to Network Access Security
Playing guitar tablatures in Rust
Claude の Projects にライブラリのリファレンスを丸ごと入れてみる - Qiita
「Lunar Lake」Deep Diveレポート - 【Part 2】Memory、GPU、NPUについて
Micronが開発したGDDR7規格のVRAMはグラボの描画性能を30％以上改善する見込み