Amazon S3よりパフォーマンスが10倍向上しリクエストコストを50％抑えられる低レイテンシーストレージクラス「Amazon S3 Express One Zone」が発表される
Amazon Web Services(AWS)が、2023年11月27日から12月1日にかけてラスベガスで開催されるイベント「AWS re:Invent 2023」の基調講演で、従来のAmazon Simple Storage Service(S3)と比較して最大10倍のパフォーマンスを発揮するストレージクラス「Amazon S3 Express One Zone」を発表しました。 Announcing the new Amazon S3 Express One Zone high performance storage class | AWS News Blog https://aws.amazon.com/jp/blogs/aws/new-amazon-s3-express-one-zone-high-performance-storage-class/ Need low laten
こんにちは！バックエンドエンジニアのハラノです。 くらしのマーケットのシステムの中には、Node.js（NestJS）を使用したマイクロサービスが存在しており、今回 Node.js のバージョンアップを行いました。 バージョンアップの方針及び、実際にアップデートを行う際に出てきた問題とその対策をご紹介します。 バージョンアップの方針 バージョンアップの結果 各種対応において、発生した問題と対応 TypeScript のバージョンアップ NestJS のバージョンアップ @nestjs/common から HttpService, HttpModule が削除された Inject にInject(TestRepository.name)のように、クラス名を渡している部分について、依存関係の解決が行えなくなっていた RxJS のtoPromiseが Deprecated になった TypeOR
Goroutineの使い方
この記事はGo 言語 Advent Calendar 2023のシリーズ２の４日目の記事です（穴があったので入りました！）。 goroutineの特徴 コルーチンをベースにコルーチンの以下の点を改良 言語組み込みワード「go」にて起動できる M:Nスレッドシステム採用によりマルチコア分散処理が可能 ブロッキングを検出したらネイティブスレッドが独立 プリエンプティブ性を追加(Go1.14以降) 以上により、goroutineスレッドシステムはコードを書く人にとって「ネイティブスレッド」の感覚で実装を書くことができ、「コルーチン」のようにメモリやタスクスイッチ負荷が小さく、「コルーチン」のような面倒な制約（期待するレイテンシ以上にCPUビジーにしてはいけないなど）も無いといういいとこどりのスレッドシステムになりました。 ネイティブスレッドライクによる特性 ネイティブスレッドを使ったプログラミン
東大松尾研サマースクール2023「大規模言語モデル」Day5の講義で使用した資料です。大規模言語モデルの Fine-Tuning をテーマに、Instruction Tuning および Parameter Efficient Fine-Tuning について体系的に紹介することを目指した内容となっています。 講座リンク: https://deeplearning.jp/llm2023/
How Back/forward Cache Helped Yahoo! JAPAN News Increase Revenue by 9% on Mobile Stay organized with collections Save and categorize content based on your preferences. Back/forward cache (or bfcache) is a browser optimization that enables instant back and forward navigation. It significantly improves the browsing experience for users, especially for websites that involve many back and forth naviga
When Zed was open-sourced, someone on HackerNews commented that Sublime Text is faster when searching for all occurrences of the current word in a buffer. Zed takes 1s and Sublime somewhere around 200ms. Searching all occurrences means: you position your cursor over a word, you hit cmd-shift-l and all occurrences of that word in the current buffer are selected and you get a cursor at each occurren
Findyでエンジニアをしている松村（@shakemurasan）です。 以前、弊社の栁沢が「RailsのCIのテスト実行時間を10分から5分に高速化した話」という記事を投稿しました。 tech.findy.co.jp 本記事ではその少し前のお話、そもそもRSpecの実行時間自体にまだまだあった伸びしろ、特にFactory周りの問題をTestProfというgemを活用して解消していった話となります。 当時のRSpecの実行時間状況 TestProfとは TestProfでの分析結果 改善1. 関連したレコードを複数件作成しているFactoryを１レコードに減らす 改善2. テストで必要最小限なレコードのみを作成する RSpecの実行時間の改善結果 考察 当時のRSpecの実行時間状況 これまでにもテスト実行時間の短縮のための取り組み(CI側でのマシンの並列起動および並列実行)はしており、そ
PHPクックブック
PHPを使う上で、約140の遭遇しがちな問題とその解決策をまとめたレシピ集です。PHPの基本的な文法から、暗号化、エラー処理、デバッグ、パフォーマンスチューニングといった重要な概念、型システム、非同期処理まで、効率的でモダンなWebアプリケーションを構築するためのレシピを網羅しています。パフォーマンスの改善、安全性の強化など、機能が大幅に向上したPHP 8を使いこなす上で、信頼できるリファレンスとして、常に手元に置いておきたい一冊です。 はじめに 1章 変数 レシピ1.1 定数の定義 レシピ1.2 可変変数の作成 レシピ1.3 変数の交換 2章 演算子 論理演算子 ビット演算子 比較演算子 型キャスト レシピ2.1 if/elseブロックの代わりに三項演算子を使用する レシピ2.2 null値を合体する レシピ2.3 値が等しいか評価する レシピ2.4 宇宙船演算子により値をソートする レ
非同期処理で45%のレイテンシ削減を実現#Nature - Nature Engineering Blog
Natureエンジニアインターン生の後藤です。この記事では、インターン期間中に取り組んだfirequeueの改修についてお話します。 背景 NatureのバックエンドにはNature Remoからメッセージを受け取るエンドポイントがあるのですが、このエンドポイントはメッセージが来るたびに叩かれるので、NatureのAPIサービスの中で最も合計レイテンシとリクエスト数が大きいものとなっています。 エンドポイント毎のリクエスト数と累積時間 詳しくこのAPIのレイテンシの内訳を見てみると、その中でもFirehoseが占有している時間が40%と最も長くなっていました。 APIのレイテンシの内訳 また、Natureではfirehoseへの送信にfirequeueというGo言語のpackageを使用しています。firequeueは、Amazon Kinesis Data Firehoseへのアイテムの
BulletmarkRepairer: auto corrector for N+1 queries
Rails アプリの 5,000 件の N+1 問題と 戦っている話 2023.10.27. Kaigi on Rails 2023
Ryzenの3D V-CacheをRAMディスク化した猛者が現れる。尋常じゃない速さ。PCIe 5.0 SSDの12倍以上 | ニッチなPCゲーマーの環境構築Z
AMD Ryzen 7 5800X3Dの3D V-CacheをRAMディスク化することに成功したユーザーが現れた。その速度はシーケンシャルリードが約182GB/s、シーケンシャルライトが約175GB/sというとんでもない速さだ。最速のPCIe 5.0 SSDよりも12倍以上も高速だ。 Ryzen 7 5800X3D - 3D V-Cache RAMディスク リード182GB/s ライト175GBs RAMディスク化したNemez氏によると、OSFMountというアプリを使用してL3キャッシュ上にRAMディスクを作成したという。Tom’s HardwareのライターであるAlbert Thomas氏もRyzen 7 7800X3DのRAMディスク化に成功し、この話が真実だと確認できた。 Ryzen 7 7800X3D - 3D V-Cache RAMディスク リード178GB/s ライト16
KARTE 管理画面のパフォーマンスの監視をするにあたって考えたことや Datadog の活用のポイント、改善で取り組んだことについて紹介します。
はじめに Chat Vector: A Simple Approach to Equip LLMs with Instruction Following and Model Alignment in New Languages という論文では、LLMの学習済み重みパラメータの足し引きによって、事前学習済みモデルに対話能力を与えることができるという結果が示されています。 具体的には、英語で事前学習されたモデル（以下ではベースモデルと呼びます）と、ベースモデルを指示チューニング (instruction tuning)してチャット形式の対話ができるようにしたモデル（英語チャットモデル）、ベースモデルを英語以外の言語で継続事前学習したモデルの３つのモデルを用います。 英語チャットモデルの重みからベースモデルの重みを引いたものは、チャット形式で対話ができる能力を表したベクトルであり、そのベクトルを
目指せISUCON!!社内WEBパフォーマンス改善ハンズオンのすすめ - RAKUS Developers Blog | ラクス エンジニアブログ
こんにちは、あるいはこんばんは。だいたいサーバサイドのエンジニアの(@taclose)です☆ みなさん、この本を読んだ事ありますか？？ 達人が教えるWebパフォーマンスチューニング 〜ISUCONから学ぶ高速化の実践 ISUCONをテーマとしながらWebパフォーマンスの改善の進め方を解説した本で、改善するなら一度は読む事をお勧めします！ とはいっても、いざWebパフォーマンス改善をしようと思っても中々糸口が掴めなくて難しいんですよね！ 数学でいうなら、練習問題は見たけど、いざ演習やると解法がわからないっていう感じでしょうか（汗 そこで、TDDハンズオンに引き続き、弊社ではWebパフォーマンス改善ハンズオンを実施しました！ 今回はそんなハンズオン開催を行った際のスライド資料や結果、考察をまとめて公開しようと思います。 対象読者は以下を想定 WEBパフォーマンス改善のハンズオンをわが社でも開催
GitHub - microsoft/garnet: Garnet is a remote cache-store from Microsoft Research that offers strong performance (throughput and latency), scalability, storage, recovery, cluster sharding, key migration, and replication features. Garnet can work with exis
Garnet is a new remote cache-store from Microsoft Research, that offers several unique benefits: Garnet adopts the popular RESP wire protocol as a starting point, which makes it possible to use Garnet from unmodified Redis clients available in most programming languages of today, such as StackExchange.Redis in C#. Garnet offers much better throughput and scalability with many client connections an
Compression Dictionary Transport (Shared Brotli) によるコンテンツ圧縮の最適化 | blog.jxck.io
Intro Chrome で Compression Dictionary Transport の Experiment が行われている。 Intent to Experiment: Compression dictionary transport with Shared Brotli https://groups.google.com/a/chromium.org/g/blink-dev/c/NgH-BeYO72E この提案の仕様および本サイトへの適用について解説する。 brotli の Dictionary 圧縮方式は、基本的に「同じ値が出てきたら、それらをまとめて小さく表現する」という方式が中心となる。 # 繰り返しを数値で表現する場合 from: aaaabbbbb to: a4b5 この方式は、対象としたデータの中で、如何に効率よく「同じ値」を見つけるかが肝となる。例えば以下の例
LINEヤフーはDB自動チューニング術を紹介――「KubeCon」で気になった最新のKubernetes×データベース運用ノウハウ
LINEヤフーはDB自動チューニング術を紹介――「KubeCon」で気になった最新のKubernetes×データベース運用ノウハウ：「KubeCon＋CloudNativeCon North America 2023」レポート 「クラウドネイティブ」という言葉がなじんだ今、市場に登場した新たなデータベースやデータベースを支えるプラットフォームにまつわる情報を紹介していきます。今回は「KubeCon＋CloudNativeCon North America 2023」で気になった内容をお届けします。 「クラウドネイティブ」という言葉がなじんだ今、市場に登場した新たなデータベースやデータベースを支えるプラットフォームにまつわる情報を紹介する本連載。前回はNewSQLの一つである「YugabyteDB」のユーザーによるラウンドテーブルの様子をお届けしました。国内市場でもクラウドネイティブな新しい
[アップデート] Amazon Aurora MySQL でリードレプリカの書き込み転送機能がサポートされたので使ってみた | DevelopersIO
[アップデート] Amazon Aurora MySQL でリードレプリカの書き込み転送機能がサポートされたので使ってみた いわさです。 Aurora グローバルデータベースでは書き込み転送機能があります。 リーダーエンドポイントのみのセカンダリリージョンで書き込み操作を行うと、プライマリリージョンへ書き込みを転送してくれる機能です。 このグローバルデータベースでサポートされていた機能が単一リージョンの Aurora クラスターでも利用できるようになりました。 この機能を有効化することで、クライアントからリードレプリカに対して書き込み操作を行った場合に、リーダーインスタンスがライターインスタンスに書き込み操作を転送してくれます。 従来リードレプリカを導入する場合はクライアントアプリケーション側でライターエンドポイントとリーダーエンドポイントを管理しなければいけませんでした。 いくつか制限事
![[アップデート] Amazon Aurora MySQL でリードレプリカの書き込み転送機能がサポートされたので使ってみた | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/0daaf3649414b6f27679779d9a4b12e219c67548/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2022%2F08%2Famazon-aurora.png)
5G対応かも不明、異例だらけのスマホ「HUAWEI Mate 60 Pro」レビュー 力業で制裁を回避した驚異のモデル
5G対応かも不明、異例だらけのスマホ「HUAWEI Mate 60 Pro」レビュー 力業で制裁を回避した驚異のモデル（1/4 ページ） iPhoneやPixelといった新型スマートフォンが発売される中、中国ではHuaweiの最新スマートフォン「HUAWEI Mate 60」シリーズが話題だ。発表会もなく、突如発売されたこのスマートフォンはスペックの多くが謎めいた形で販売された。香港で「HUAWEI Mate 60 Pro」の実機を入手したので、レビューしていく。 iPhoneやPixelといった新型スマートフォンが発売される中、中国ではHuaweiの最新スマートフォン「HUAWEI Mate 60」シリーズが話題だ。発表会もなく、突如発売されたこのスマートフォンはスペックの多くが謎めいた形で販売された。香港で「HUAWEI Mate 60 Pro」の実機を入手したので、レビューしていく。
Million Lint is in public betaAiden Bai (opens in a new tab), John Yang (opens in a new tab), Nisarg Patel (opens in a new tab) – February 29, 2024 It’s launch time. After three months and hundreds of commits, we invite you to try out Million Lint. The experience is not finished – there are a few known bugs and several missing features – but we are really happy with how it's shaping up and couldn'
はじめに OpenTelemetryのトレーシングには色々な情報が付与されるため、パフォーマンスやエラーの調査に利用することが出来ます。 この記事ではOpenTelemetryを使った調査方法について紹介します。 ※コードのサンプルにGoを使用していますが、Go以外の言語でも変わりません。 TraceとSpan はじめにOpenTelemetryのトレーシングについて。 トレーシングは主にSpanとTraceで出来ています。 Spanはプログラムが実行した処理を表すデータ構造で、開始時間やAttribute(任意のキーバリュー)を持っています。 また、TraceはSpanをノードとした木構造です。 Traceを可視化すると上図のようになり、線一本ずつがSpanです。 ただし、Traceはどこかで一括管理されているものでもなければ、実体があるわけでもありません。 トレーシングとしてプログラム
パフォーマンスの高いソフトウェア・チームになるには
垂直スケーラビリティと効果的なテストによる金融取引システムのパフォーマンスと効率の最大化 Peter Lawrey氏はJavaチャンピオンであり、Chronicle SoftwareのCEOとして、開発者を鼓舞してソリューションのクラフトマンシップを高めることに情熱を注いでいる。経験豊富なソフトウェアエンジニアとして、Lawrey氏はソフトウェア開発プロセスにおけるシンプルさ、パフォーマンス、創造性、革新性を奨励することに努めている。
結成たぶん10年くらいのチーム白金動物園（mirakui, sorah, rosylilly）として ISUCON 13 に参加してきました。ここ数年はなんだかんだ運営側であることが多かったので、いち選手としては随分久しぶりな気がします。 結果は694チーム中18位で、最終スコアは 103,838 でした。 ISUCON13 受賞チームおよび全チームスコア : ISUCON公式Blog 優勝経験のあるチームとしては満足のいく結果ではありませんが、Rubyを使ったチームの中では一番スコアが高かったようです。 上位30チームに限定すると以下となりました Go 29組 96.7% Ruby 1組 3.3% ISUCON13 利用言語比率 : ISUCON公式Blog この1組が我々です。 あとLINEヤフー社が提供してくださった会場に入場した順では僕が1位を取りました。 ISUCON
「Mステ」でナチス式敬礼の指摘、LDH所属グループに批判 「これは酷い」「倫理的にどうかしてる」（ねとらぼ） - Yahoo!ニュース
LDH JAPANに所属する、ダンス＆ボーカルグループ「THE RAMPAGE from EXILE TRIBE」が12月22日に生放送された「ミュージックステーション SUPER LIVE 2023」（テレビ朝日系）で楽曲を披露し、そのパフォーマンスの中にナチス式敬礼の振り付けが含まれていたなどとして批判を浴びています。 【動画】批判を浴びている楽曲や「Mステ」出演時の衣装 批判を集めているのは、「EXILE」「三代目 J SOUL BROTHERS from EXILE TRIBE」などで有名なLDH JAPANに所属する、ダンス＆ボーカルグループ「THE RAMPAGE from EXILE TRIBE」による楽曲「SOLDIER LOVE」。「戦士の愛」などを意味するタイトルで、歌詞の中には「上書きする地図」「ここFar east（※Far eastは極東を意味します）の地から 神
発熱の問題がつきまとうCPUを冷却する方法としては、一般的な空冷の他に水冷や油冷などがあります。香港城市大学の研究チームが、精密機器には御法度なはずの「塩水」でCPUを冷却するシステムを発表しました。 Membrane-encapsulated, moisture-desorptive passive cooling for high-performance, ultra-low-cost, and long-duration electronics thermal management - ScienceDirect https://www.sciencedirect.com/science/article/pii/S2666998623001801 Passive Salt Water Cooling Boosts CPU Performance by Almost 33% | Tom
まとめ Rust製parserは、Dart製parserの2倍程度の速度が期待できる Rustの呼び出しコストとして、1.2ms程度のボトルネックが存在する n回のRust呼び出しは、場合によってはパフォーマンス低下につながる RustとFlutterのアダプタは自動生成できるので実装は非常にカンタン Rustコンパイル用の設定は1回すればずっと使えるが、プラットフォームごとにしなければいけないので結構面倒。 どんな人向けの記事？ FlutterからRustの関数を呼び出す方法を知りたい方 Rustの関数をわざわざ呼び出すべきか、判断基準のヒントを得たい方 Dart vs Rustのスピードテストの実測値をみたい方 Rustは本当に早いのか。Flutterで実際に呼び出してDart実装と比較する つい先日、Stack Overflow Developer Survey 2023が公開されま
In this work, we propose Retentive Network (RetNet) as a foundation architecture for large language models, simultaneously achieving training parallelism, low-cost inference, and good performance. We theoretically derive the connection between recurrence and attention. Then we propose the retention mechanism for sequence modeling, which supports three computation paradigms, i.e., parallel, recurre
前回は、CPUコントローラでの帯域幅制限がどのように行われるのかについて簡単に説明しました。 前回の最後に、説明のために挙げた例がかなり理想的な状況であると書きました。今回は、帯域幅制限の機能を詳しく見ていくために、前回よりはもう少し複雑な状況について説明していきましょう。 未使用クォータの返却 前回説明で示した例では、CPUは割り当てられたスライスをすべて使いきっていました。しかし、複数のCPUがある環境で、タスクが終了したり、I/O待ちなどにより、クォータが割り当たったCPUで実行可能なタスクがなくなった場合はどうなるでしょう? 図1 割り当てられたスライスが使われない場合 図1のように、クォータプールに10msクォータが残っているとします。 ①でCPU1でCPUを使用するタスクから要求がありスライスが転送され、クォータの残りが5msとなりました ②で再度CPU1でCPUを使用するタス
職場でRustを使う理由、3位はセキュリティ、2位はパフォーマンス、1位は？：2022年版年次Rust調査結果、1万超の回答 RustプロジェクトがRustプログラミング言語に関する年次調査「State of Rust」の2022年版の結果を発表した。1万超の回答を基に、Rustの使用をやめた理由、使わない理由、Rustを職場で使用する理由、将来の懸念などを明らかにした。
Object structure in JavaScript enginesFrom a developer's perspective, objects in JavaScript are quite flexible and understandable. We can add, remove, and modify object properties on our own. However, few people think about how objects are stored in memory and processed by JS engines. Can a developer's actions, directly or indirectly, impact performance and memory consumption? Let's try to delve i
アップルはMacBook ProおよびiMacの新製品を発表した。これらで使われているのが、同社の新プロセッサー｢M3｣シリーズだ。 アップルがMacに独自開発プロセッサを使うようになって3年が経過し、M1からM3へと世代交代している。 世代を追ってプロセッサーが性能アップしていくのはマーケティング上も当然のことで、そのこと自体に驚きはない。 だがよく見ると、無印・Pro・Maxという3つのバリエーションも、実は細部を見ると過去とは少し変わった状況がある。 取材のなかから見えてきたのは、アップルの新しい半導体戦略だ。
1台のPCを1つのプロジェクトのためだけに使用するのは、やりすぎな場合もある。そういうときに便利なのがシングルボードコンピューター（SBC）だ。最も知名度の高いSBCは間違いなく「Raspberry Pi」だろう。その多用途性や省電力性、信頼性、使いやすさは世界的によく知られている。 だからといって、検討に値するRaspberry Piの代替SBCが存在しないわけではない。 Raspberry Piの代替品を使用すれば、より高度なパフォーマンス、AI、VRサポート、産業用途に対応したボード、プログラミングや教育製品に適したボードなど、ユニークな機能をプロジェクトで利用することが可能になる。ChatGPTアプリケーションを利用したい場合にも有効かもしれない。単純にRaspberry Piよりも小型のSBCが欲しい、という人もいるかもしれない。2023年にRaspberry Piの新バージョン
This talk is a case study of designing an efficient Go package. I’m going to use the example of building a high performance JSON parser. Supports streaming operations It’s unrealistic to expect to have the entire input in memory. Buffering in memory is a availability risk, input sizes are usually unknown and potentially unbounded. Buffering before processing introduces latency. Streaming reads let
Windowsの反応が悪いときなど、CPUの負荷状態を知りたくなることがある。一番簡単な方法としては、タスクマージャーを使うのがいいだろう。タスクマネージャーのパフォーマンスタブにあるCPUを見ると、プロセッサの使用率が表示されている。これが現在のCPUの負荷状態を表している。 タスクマネージャーのパフォーマンスタブでCPUを選択したとき、グラフの下に出る「使用率」がCPUの負荷状態を表す。これは、パフォーマンスカウンターの「Processor Information」カウンターセットにある、「% Processor Utility」カウンターの「_Total」インスタンスに相当する Windowsでは、CPUはスレッドをQuantumと呼ばれる短い時間で実行しては、別のスレッドに切り替えて実行するという処理を繰り返す。実行すべきスレッドがなければ、アイドルプロセスを実行する。アイドルプロ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Node.js18を20にアップデートして、jestの実行速度を3倍にした - くらしのマーケット開発ブログ
【Hothotレビュー】 驚異的な性能と静音性を両立！最新のRyzen 7 7840HSを搭載するミニPC「GTR7 7840HS」
LLM Fine-Tuning (東大松尾研LLM講座 Day5資料)
How Back/forward Cache Helped Yahoo! JAPAN News Increase Revenue by 9% on Mobile | web.dev
From 1s to 4ms
TestProfでワースト5のspec実行時間を8割削減していった話 - Findy Tech Blog
MicrosoftやAmazonに続き、Googleも生成AI向け独自CPU投入
Datadog を使った KARTE 管理画面パフォーマンス改善の取り組み
Chat Vectorを使って日本語LLMをチャットモデルに改造する - Qiita
そのGPU、仕事してる？Intelが「GPU Busy」を計測できる監視ツール公開
Million Lint is in public beta | Million.js
Windows 11、MUXなしでdGPU性能が出せる機能が実装されていた！クラッシュも軽減
OpenTelemetryでパフォーマンス改善とエラー調査ができる理由
いいことづくめのメモリモジュール「LPCAMM2」、Micronが投入へ
チーム白金動物園としてISUCON13に参加しました - 昼メシ物語
CPUパフォーマンスを約33％向上させる「パッシブ塩水冷却」とは？
Rustは本当に早いのか。Flutterにおける速度をMarkdownParserで比較してみた。
Retentive Network: A Successor to Transformer for Large Language Models
第54回 Linuxカーネルのコンテナ機能 ―cgroup v2から使うCPUの帯域幅制限（2） | gihyo.jp
職場でRustを使う理由、3位はセキュリティ、2位はパフォーマンス、1位は？
Object structure in JavaScript engines
アップルの｢次世代の半導体戦略｣が見える｢M3チップ｣独特の設計とは
「Raspberry Pi」を代替するSBC--さまざまな特徴を持つボード5選
Building a high performance JSON parser
二度と御免？ iPhoneの「探す」機能で約5億5千万円を手に入れた女性、その理由は【やじうまWatch】
Windows上でCPUの負荷状態を調べためのいくつかの方法 (1/2)