並び順

ブックマーク数

期間指定

  • から
  • まで

81 - 120 件 / 140件

新着順 人気順

分散システムの検索結果81 - 120 件 / 140件

  • Trelloユーザー1500万人のメールアドレスがハッキングフォーラムに流出、たった360円で売り飛ばされる

    by Focal Foto Atlassianが運営するタスク管理ツール「Trello」のユーザーのメールアドレス約1500万人分が、ダークウェブに流出したことが報じられました。このメールアドレスは2024年1月にハッカーに盗まれたことが取り沙汰されていましたが、Atlassianは当初データの漏えいを否定していました。 Email addresses of 15 million Trello users leaked on hacking forum https://www.bleepingcomputer.com/news/security/email-addresses-of-15-million-trello-users-leaked-on-hacking-forum/ Trello Data Breach: Hacker Dumps Personal Info of Millio

      Trelloユーザー1500万人のメールアドレスがハッキングフォーラムに流出、たった360円で売り飛ばされる
    • あのサービスの監視・オブザーバビリティ アーキテクチャ選定【後編】 - Findy Tools

      公開日 2024/01/25更新日 2024/07/25あのサービスの監視・オブザーバビリティ アーキテクチャ選定【後編】 ユーザーや顧客へ信頼性を担保した価値提供をしていく中で、監視・オブザーバビリティの取り組みは非常に重要です。 前回の監視・オブザーバビリティ特集では、合同会社DMM.com、株式会社MIXI、株式会社マネーフォワード、パイオニア株式会社、Sansan株式会社、株式会社ZOZOの6社の各サービスを支える監視・オブザーバビリティをご紹介しました。 今回後編では、Chatwork株式会社、株式会社カカクコム、株式会社LayerX、株式会社リンクアンドモチベーション、株式会社タップルのアーキテクチャをご紹介します。 各社がどのようなアーキテクチャを組んでいるのか、またそのアーキテクチャにしている背景や意図についてぜひ参考にしてみてください。 株式会社kubell(旧Chatw

        あのサービスの監視・オブザーバビリティ アーキテクチャ選定【後編】 - Findy Tools
      • プラットフォームエンジニアリングの現状と今後

        ガートナーの米国本社発のオフィシャルサイト「Insights」などのグローバルコンテンツから、@IT編集部が独自の視点で“読むべき記事”をピックアップして翻訳。グローバルのITトレンドを先取りし「今、何が起きているのか、起きようとしているのか」を展望する。 新しい問題ではないが、モダンなソフトウェアアーキテクチャは、多くの独立したサービスで構成される複雑な分散システムとなっており、構成コンポーネントが他のチームやクラウドプロバイダーによって構築されていることも多い。Kubernetesはこうしたサービス群を管理するが、さらなる複雑化を招いてしまい、その克服が必要だ。 これは、開発と運用が交わる領域で厄介な問題を引き起こす。開発者は、専門外の複雑で難解なサービスやツールを幾つも運用しなければならないと、フラストレーションを感じる。運用担当者は、専門外の開発者が基準に満たないインフラを構築する

          プラットフォームエンジニアリングの現状と今後
        • SREに求められるスキルと心構え | sreake.com | 株式会社スリーシェイク

          はじめに こんにちは、最近の私の人生はキックボクシングとコーディングの2つの活動に極端に偏りつつあります。nwiizoです。一見正反対のようなこの2つの活動ですが、共通する本質があります。それは、頭で考えるだけでなく、実際に体を動かして実践することで新しい発見や気づきを得ていくプロセスです。 キックボクシングでは、理論だけでは表現できない”技”を体で覚えていきます。理論上の動作はスムーズに行えても、実際にパンチやキックを繰り出す際には、さまざまな戦略を一瞬のうちに計算し、機動的に対応しなければなりません。そこでは思考するよりも先に、体が自然と反応するよう繰り返し訓練を重ねていきます。 一方のコーディングにおいても、書籍から得た知識を単に暗記しているだけでは意味がありません。実際にコードを書きながら、試行錯誤を重ね、バグに出くわし、その都度解決策を見出していく中で、本当の理解が深まっていきま

            SREに求められるスキルと心構え | sreake.com | 株式会社スリーシェイク
          • Developer eXperience Day 2024【参加無料・アーカイブ配信あり】|EventRegist(イベントレジスト)

            2024年7月16日(月)と17日(火)の2日間にわたり「Developer eXperience Day 2024」(一般社団法人 日本CTO協会主催)を、オフライン・オンラインのハイブリッド形式で開催いたします。 【参加無料・アーカイブ配信あり】です。ぜひご参加ください! 開催概要 名称:Developer eXperience Day 2024 開催日:2024年7月16日(火)・17日(水) 開催形式:オフライン(現地参加)・オンライン配信 会場:浅草橋ヒューリックホール&カンファレンス アクセス:https://hulic-hall.com/access/ JR総武線「浅草橋駅(西口)」より徒歩1分 参加方法:事前申込制(参加費:無料) 申込サイト:本イベントサイトよりお申込みください 参加対象: ソフトウェア開発の第一線で挑戦するエンジニアをはじめ、テックリード、エンジニアリン

              Developer eXperience Day 2024【参加無料・アーカイブ配信あり】|EventRegist(イベントレジスト)
            • 大規模言語モデルの計算能力を桁違いに増強するカスタマイズハードウェアを作るスタートアップ「MatX」

              「大型のAIモデルに特化して、性能をさらに向上させる」ことを目指してハードウェアを設計するというスタートアップ「MatX」を、元Googleエンジニアのライナー・ポープ氏とマイク・ガンター氏らが創業しました。 MatX | MatX: high throughput chips for LLMs https://matx.com/ Introducing MatX: we design hardware tailored for LLMs, to deliver an order of magnitude more computing power so AI labs can make their models an order of magnitude smarter. Our hardware would make it possible to train GPT-4 and run

                大規模言語モデルの計算能力を桁違いに増強するカスタマイズハードウェアを作るスタートアップ「MatX」
              • Rubyist Hotlinks 【第 39 回】古橋貞之 さん

                はじめに 著名な Rubyist にインタビューを行う企画「Rubyist Hotlinks」。第 39 回となる今回は、古橋貞之さん。 では、お楽しみください。 インタビュー 聞き手 卜部さん (@shyouhei) 語り手 古橋貞之さん (記事中「古橋」) 野次馬(古橋さんの現職であるトレジャーデータの同僚と元同僚のみなさん) 国分さん、成瀬さん、田籠さん、金子さん、三村さん 日にち 2023 年 5 月 11 日 写真提供 : 目次 Table of content プロフィール 卜部 はい、じゃあお疲れ様です。ゆるりと始めていきますが。るびまのインタビューはポッドキャストにしないという信念の元に、ポッドキャストにしていなくて。 三村 そんな信念が。 卜部 なんでかっていうと、いくら迂闊なことをゆっても後から編集できるからっていう。これがね、やっぱ迂闊なことを言ってもらわないと楽しい

                • Flakyテストから学ぶテスト自動実行分散システム設計入門 - Tabelog Tech Blog

                  目次 目次 はじめに 分散システム視点での自動テストシステム 分散システム構成 入力 出力 テスト対象システム コンポーネント ノード Testcase Allocator Cucumber Selenium Browser 事例:食べログで起きた分散システム視点でのFlakyテスト 問題 Flakyテストの事象: "たまに" "不特定" "多数のテストケースが" "Cucumberのstepの60秒タイムアウトエラーで失敗する" Flakyテストの原因調査の複雑さ 原因と対策 「事象A: たまに(4回に1回程度の頻度で)」の原因と対策 「事象B: 不特定 (毎回異なるテストケース)」の原因と対策 「事象C: 多数のテストケースが(テストケース全体の20~70%程度)」の原因と対策 「事象D: Cucumberのstepの60秒タイムアウトエラーで失敗する」の原因と対策 結果 巻き込まれて

                    Flakyテストから学ぶテスト自動実行分散システム設計入門 - Tabelog Tech Blog
                  • Java Champion・谷本心がすすめる、技術に対する考え方に大きな影響を与えた書籍5選

                    Java Champion・谷本心がすすめる、技術に対する考え方に大きな影響を与えた書籍5選 2024年6月19日 谷本 心 EverforthとAcroquestの2社で正社員として働くエンジニア。仕事のかたわらでコミュニティ活動も行っており、日本Javaユーザーグループの代表を務めるほか、アメリカで開催されたJavaOneやSpringOneなど国内外のイベントで登壇。その実績から日本で3人目の「Java Champion」に任命された。著書に『Java本格入門』(技術評論社)。趣味は対戦格闘ゲームと、BABYMETALを追いかけて世界中を旅すること。 X: @cero_t Blog: https://cero-t.hatenadiary.jp/ 1. 『Googleを支える技術 ……巨大システムの内側の世界』西田圭介著 2. 『マイクロサービスアーキテクチャ 第2版』Sam Newm

                      Java Champion・谷本心がすすめる、技術に対する考え方に大きな影響を与えた書籍5選
                    • (日本語訳) Vector databases (Part 1): What makes each one different?

                      ベクトルデータベースに関しては、カリフォルニアのベイエリアで明らかに"多く"の活動が行われている!また、資金調達と評価の額には大きなばらつきがあり、データベースの能力と資金調達額に相関関係がないことは明らかである。 プログラミング言語の選択 高速でレスポンスが良くスケーラブルなデータベースは、近年、GolangやRustのようなモダンな言語で書かれることが一般的である。ベクトル特化ベンダーの中で、Javaで書かれているのはVespaだけである。Chromaは、C++で構築されたOLAPデータベースであるClickhouseとオープンソースのベクトルインデックスであるHNSWLibの上に構築されたPython/TypeScriptラッパーとなっている。 興味深いことに、Pineconeも[2]、LanceDBのベースとなるストレージフォーマットであるLance[3]も、元々はC++で書かれて

                        (日本語訳) Vector databases (Part 1): What makes each one different?
                      • Amazon MemoryDB for Redisの論文がSIGMOD 2024で採択されたので読んでみた | DevelopersIO

                        Amazon MemoryDBではトランザクションログサービスへの耐久性のオフロード、スナップショット用にephemeralクラスタを作成、形式手法(TLA+)で一貫性の検証などが活躍しています Amazon MemoryDB for RedisはAWSが2021年から提供するRedis互換でありながら高速なパフォーマンスと耐久性を兼ね備えたエンタープライズなインメモリデータベースです。このAmazon MemoryDBの仕組みについて解説した論文が、2024年6月にチリ・サンティアゴで開催される国際的なデータベース学会の「SIGMOD/PODS 2024」で採択されました。 The 2024 ACM SIGMOD/PODS Conference: Santiago, Chile - Welcome Amazon MemoryDB: A fast and durable memory-fi

                          Amazon MemoryDB for Redisの論文がSIGMOD 2024で採択されたので読んでみた | DevelopersIO
                        • ドメインイベントを伝達するためのモデリング技法 - KAKEHASHI Tech Blog

                          前回は、アーキテクチャの進化はドメインイベントが起点になるという記事内で、ドメインイベントの重要性を語りました。本稿では、ドメインイベントを伝達する際にシステム要件を満たした上で、どのようにしてデータモデル並びにドメインモデルを象るかを説明します。 なお、ビジネスドメインを深掘りドメインモデルを探索する手法の説明は、世にたくさん解説されているため詳しくはそちらに譲ります。特にAlberto Brandolini氏が提唱するモデリング手法であるEvent Stormingは、ワークショップ形式でドメインイベントを深く理解し、一連の業務プロセスやドメイン領域を探索的に発見することができる手法であり、Event Sourcingを前提とするアーキテクチャと相性がいいので参考にするとよいでしょう。 ドメインイベントのデータモデルの属性 ドメインイベントの記録および伝達に着眼した構成を紹介した前回の

                            ドメインイベントを伝達するためのモデリング技法 - KAKEHASHI Tech Blog
                          • 【保存版】3大思考法の徹底比較と実践方法 - Qiita

                            はじめに この記事では、エンジニアリングをする上でも重要な ロジカルシンキング クリティカルシンキング ラテラルシンキング の、3つの思考法について それぞれの違いと、どのようにプログラミングや日常生活で活用できるかを解説します。 1. ロジカルシンキングとは 1.1 ロジカルシンキングの定義 特性 例えば 日常生活においても、選択肢が複数ある場合にメリットとデメリットを比較し、最も合理的な選択をする際にロジカルシンキングが活用されます。 また、ビジネスの世界では、戦略的な意思決定や、プレゼンテーションでの説得力を高めるためにも重要です。 1.2 プログラミングにおけるロジカルシンキングの役割 プログラミングにおいて、ロジカルシンキングは不可欠なスキルです。 コードを書く際には、論理的に考えることで、エラーを防ぎ、効率的なアルゴリズムを構築することが可能です。 コードの設計と構築 プログラ

                              【保存版】3大思考法の徹底比較と実践方法 - Qiita
                            • システム開発の新潮流 モジュラーモノリス

                              マイクロサービスは優れたアーキテクチャーだが、設計・開発・運用の難度が高い。そこで、マイクロサービスの利点を一部手放す代わりに導入の難度を下げた「モジュラーモノリス」が注目されている。その実像を解説するとともに、このアーキテクチャーを採用した4社の事例を掘り下げる。 マイクロサービスはそれぞれのサービスを独立したアプリケーションとして構築し、それらが互いにデータをやり取りすることで全体のシステムを構築するアーキテクチャーだ。米国の巨大IT企業や日本のメガベンチャーが導入し、大きな成果を上げている。 複数のサービスが混在する一枚岩のようなアプリから成る従来型のシステムは「モノリス」と呼ぶ。各サービスを別のアプリとして分離・独立したマイクロサービスでは、サービスの変更が他のサービスに与える影響を気にする必要がなく、モノリスに比べて開発スピードが上がる。マイクロサービスが企業競争力を高めることを

                                システム開発の新潮流 モジュラーモノリス
                              • モノリス対マイクロサービスという誤った二分法

                                AWSの記事は、(長年マイクロサービスの支持者であった)同社がマイクロサービスから手のひらを返し、モノリスに戻った証拠として受け止められている。 彼らのブログ記事のタイトルは、注目を集めるよう計算されたものだが、この記事はマイクロ(マイクロの定義がどうであれ)より大きなサービスを持つ分散アプリケーションでなければ、FaaS(functions as a service)から、現在の恐らくマイクロサービスアーキテクチャへの転換について書かれているように見える。 しかし私が言いたいのは、そんなことはどうでもいいということだ。これはAWSのあるひとつのチームが、最初に試したアーキテクチャが上手く機能しなくなった(時とともに)、そして別の方法を試したらよりうまく機能した、というだけのことだ。だから何だというのだ。私の今までのキャリアから見て、これは 単に優れたソフトウェアが取るべき当たり前の方法だ

                                  モノリス対マイクロサービスという誤った二分法
                                • Rust、WASI 0.2への対応を表明 ー WebAssemblyの更なる促進に期待

                                  4月10日、Rust言語はWASI(WebAssembly System Interface)ターゲットを現在の0.1から0.2に切り替えることを発表した。 4月10日、Rust言語はWASI(WebAssembly System Interface)ターゲットを現在の0.1から0.2に切り替えることを発表した。 この更新が行われるのはRust 1.78からで、wasm32-wasip1とwasm32-wasip2の二つの新しいターゲットが導入される。 wasm32-wasip2がWASI 0.2をサポートするターゲット名で、これを指定することでRustから出力されるWebAssemblyコードがWASI 0.2に対応したものとなる。 wasm32-wasip1は、既存のwasm32-wasiターゲットの別名として当面は機能するが、2025年1月5日のRust 1.84で削除される予定であ

                                    Rust、WASI 0.2への対応を表明 ー WebAssemblyの更なる促進に期待
                                  • 分散キャッシュシステムにおける公平制御の実現 - Preferred Networks Research & Development

                                    本記事は、2023年夏季インターンシッププログラムで勤務された石森大路さんによる寄稿です。 こんにちは。PFN2023 夏季国内インターンシップに参加していた大阪大学3年の石森大路です。私はPFNの機械学習基盤を開発、運用するCluster Servicesチームにおいて、「キャッシュを利⽤した機械学習・深層学習ワークロードの加速」というテーマで課題に取り組みました。 Cluster Servicesチームでは、機械学習データセットをはじめとする大容量データの読み込みを高速化する分散キャッシュシステムを開発しています。キャッシュシステムの細部については次の記事や発表において詳しく説明されていますが、この記事でも改めて簡単に説明します。 深層学習のための分散キャッシュシステム – Preferred Networks Research Development 分散キャッシュシステム on K

                                      分散キャッシュシステムにおける公平制御の実現 - Preferred Networks Research & Development
                                    • Rustでオブザーバビリティを実現するには - paild tech blog

                                      お手伝いの@helloyukiです。最近tokioの提供するtracingに関していろいろ調べごとをしました。こうしたクレートを十分に使いこなすにはどうすればいいかを考える上で、自分なりに考えがまとまってきたので記事にしたいと思います。 なお、筆者はRust以外のプログラミング言語でのオブザーバビリティ関連の事項についてはまったくわかりません。Rust以外の事情は考慮しない記事となっている点にご注意ください。 目次 tracingとは オブザーバビリティ、テレメトリ、構造化ログ オブザーバビリティ テレメトリ 構造化ログ tracingを使う 核となる概念を掴む スパン、イベント、サブスクライバを使ってみる 実際のWebアプリケーションで使用する Tips フィールドの設定 構造化ログと非構造化ログの切り替え まとめ 参考 tracingとは tracing is a framework

                                        Rustでオブザーバビリティを実現するには - paild tech blog
                                      • SE 3年目で読んだ技術書52冊 - Qiita

                                        概要 2ヶ月遅刻ですが、2023年4月~2024年3月で読んだ本145冊のうち技術寄りの本から52冊をざっくり紹介します。 オススメ度は10段階です。 1年目。 2年目。 プログラミング言語 実践Rustプログラミング入門 オススメ度★6 章ごとに1つのプログラムを作成しながら、Rustとそのエコシステムの特徴を学べる形式の本です。Rust哲学や文法解説は少なめです。 Rust学習者にはプログラミング初心者が少なく、質の高い公式ドキュメントも充実しているため、この形式の本は多い印象ですが、その中でも最もポピュラーな本です。 多様な用途を紹介する都合で作成するプログラムも多様で、これは好みが分かれるかなと思います。「ざっくり出来ることが分かればいいので後半は読み流すだけで、あとは自分で作りたいものを作りながら学ぶ」という人にはオススメです。一方で、マトモにコードを理解して環境構築して動かそう

                                          SE 3年目で読んだ技術書52冊 - Qiita
                                        • 最も年収の高いプログラミング言語は? CAMELORSがランキングを発表

                                          本ランキングは、同社の運営するフリーランス・複業・副業の求人マッチングサービス「SOKUDAN」に2024年1月2日までの直近1年間に掲載された求人案件2289件から抜粋された一部を対象にしている。単価と稼働時間から平均時給を計算し、その平均時給から1日8時間、月21日稼働で想定月収と想定年収を試算している。 ランキングによると、1位はGoで年収1362万円、時給6755円となった。2位はKotlinで年収1308万円、時給6489円。続く3位はPython(年収1249万円、時給6197円)であった。 2024年エンジニア言語の年収ランキング フリーランス副業編 1位のGoは、高いパフォーマンスと並行処理の容易さにより、大規模なサーバーサイド開発で広く採用されている。Googleによって開発された同言語は「クラウドインフラストラクチャ」「マイクロサービス」「分散システム」の構築に適してお

                                            最も年収の高いプログラミング言語は? CAMELORSがランキングを発表
                                          • Amazon Elastic Container Service のレジリエンスと可用性を Dive Deep | Amazon Web Services

                                            Amazon Web Services ブログ Amazon Elastic Container Service のレジリエンスと可用性を Dive Deep はじめに この投稿では、Amazon Elastic Container Service (Amazon ECS) におけるアーキテクチャの原則について詳しく説明し、Amazon ECS におけるアプリケーションの高可用性とレジリエンス(回復力)を実現しやすくする機能のいくつかを概説します。Amazon ECS が AWS の可用性と回復力のパターンをどのように活用するように設計されているのか、そして Amazon ECS API などを利用してそうした考え方をどのように簡単に利用できるようになっているのかについて見ていきましょう。これにより、お客様のソリューションの要求に最適な Amazon ECS 構成と機能を選択できるようにな

                                              Amazon Elastic Container Service のレジリエンスと可用性を Dive Deep | Amazon Web Services
                                            • イーサリアムのハッキングが仕事──キャンピングカーからネットワークを守るサイバーセキュリティのプロ | CoinDesk JAPAN(コインデスク・ジャパン)

                                              イーサリアム財団のセキュリティ研究者であるデビッド・セオドア(David Theodore)氏の典型的な1日は、世界最大のスマートコントラクトブロックチェーンであるイーサリアムでクラッシュが起きていないかチェックすることから始まることが多い。 その後、彼と同僚はイーサリアムを壊す仕事に取り掛かる。 「私たちのゴールは、できれば他の誰かが壊す前にイーサリアムを壊してしまうことだ」 33歳のセオドア氏は、6月に発表されたプレゼン資料によると、イーサリアム財団のセキュリティ研究チームに所属する約10人のコンピュータエンジニア兼サイバーセキュリティ専門家の1人だ。 彼らは、一部のブロックチェーン専門家が、将来、グローバル規模でデジタルな分散型金融システムの基盤になると見ているイーサリアムネットワークの究極の維持者であり、守護者でもある。 イーサリアム財団は、イーサリアム創設者のヴィタリック・ブテリ

                                                イーサリアムのハッキングが仕事──キャンピングカーからネットワークを守るサイバーセキュリティのプロ | CoinDesk JAPAN(コインデスク・ジャパン)
                                              • 食べログネット予約における非同期メッセージ発行の設計パターン - Transactional Outbox のメリット - Tabelog Tech Blog

                                                この記事は 食べログアドベントカレンダー2023 の11日目の記事です🎅🎄 こんにちは。食べログシステム本部 技術部 マイクロサービス化チームの 栗山 です。マイクロサービス化チームは「巨大なモノリシックサービスにおける開発の辛さを解消し、少人数のチームが自律的に意思決定しながら開発するためのシステム基盤を作る」をミッションに活動しています。本記事は以前ご紹介した汎用性の高いマイクロサービス基盤技術 Change Data Capture の活用事例になります。 目次 食べログネット予約のがっかり体験 - 予約を取ろうとしたら既に席が埋まっていた メッセージ発行処理の設計パターン選定 二重書き込み(Dual Writes) 予約業務テーブルの Change Data Capture Outbox テーブルの Change Data Capture 各設計の特長まとめ まとめ 食べログネ

                                                  食べログネット予約における非同期メッセージ発行の設計パターン - Transactional Outbox のメリット - Tabelog Tech Blog
                                                • 「ドメイン駆動設計をはじめよう」は設計力で事業に貢献したい開発者のための実践ガイド - TRACERY Lab.(トレラボ)

                                                  TRACERYプロダクトマネージャーの haru です。 「設計」とは、単にシステムを構築するための作業ではなく、長期的に価値を生み出すための重要なプロセスです。 ソフトウェアが事業において長期的に価値を生み出すためには、ソフトウェア開発者が「設計にこだわる」*1ことが必要だと私は思います。 「設計にこだわる」とは、ソフトウェアから価値を生み出すためには設計はこうあるべきだという理想を持ち、それを実現し、やり続けることです。 本記事のテーマであるドメイン駆動設計(DDD: Domain-Driven Design)でいえば、その理想とは「事業戦略とソフトウェアの実装を結びつける」*2ことであり、開発者が事業や業務担当者と「同じ言葉」を共有し、現実の業務をソフトウェアにモデリングする(実装する)という活動を持続することです。 その対極にあるのが「動けば良い」という考え方です。自分が担当する機

                                                    「ドメイン駆動設計をはじめよう」は設計力で事業に貢献したい開発者のための実践ガイド - TRACERY Lab.(トレラボ)
                                                  • OpenTelemetry超入門 - Qiita

                                                    概要 この記事は、OpenTelemetryについて全く知らない人に向けた入門記事です。前半でOpenTelemetryとは何か解説し、後半でデモアプリケーションを動かしながら、理解を深めていきます。 この記事の執筆時点のOpenTelemetryの最新バージョンは、1.8.0です。参照する公式ドキュメントや動作確認するデモアプリケーションのバージョンも1.8.0です。 OpenTelemetryとは OpenTelemetryは、マイクロサービスアーキテクチャーで分散されたサービス(アプリケーション)の健全性や性能を示す「テレメトリーデータ」を生成、収集、管理、エクスポートするためのOSSです。 大規模な分散システムでは、健全性や性能を把握することが極めて困難なため、迅速なトラブルシューティングのためにはテレメトリーデータの収集が求められます。分散されたサービス(アプリケーション)からテ

                                                      OpenTelemetry超入門 - Qiita
                                                    • TiDBのRequest Unitの裏側 ① | CyberAgent Developers Blog

                                                      グループIT推進本部のデータプロダクトユニット(DPU)でエンジニアをやっている@azazです。DPUではTiDBチームに所属していまして、ここではTiDBの運用、移行のサポート、クエリー最適化のサポート活動などに力を入れています。 大規模データ基盤にまつわるデータベース・ETL・クエリーエンジン・ストリーム処理技術について興味がある方は是非Cyberagentの採用ホームページから大規模データ基盤エンジニア枠で応募してみてください! 流れ 最近注目を集めているMysql互換のNewSQL データベースであるTiDBですが、内部のレートリミッターについて考えたことありますか?本記事ではTiDBで採用されているレートリミッターの仕組みについて3部構成で紹介したいと思います。 様々なレートリミッターアルゴリズムの紹介 分散システムにおけるレートリミッターの課題 TiDBのレートリミッターの仕組

                                                        TiDBのRequest Unitの裏側 ① | CyberAgent Developers Blog
                                                      • Nutanix Cloudバイブル(日本語版) - NutanixBible.jp

                                                        Nutanix Cloud バイブル Copyright (c) 2024: The Nutanix Cloud Bible and NutanixBible.com, 2024. 本サイトの著者または所有者から書面による許可を受けることなしに、本著作物を無断で使用すること、またはコピーすることを固く禁じます。 本著作物を引用、または本著作物に対するリンクを設定することは許可されますが、 NutanixおよびNutanixBible.comの著作であることを明記し、かつ原著の内容を適切かつ明確に示すよう、該当箇所を提示することを前提とします。 日本語版に関して、誤植や不自然な翻訳など、お気づきの点がございましたら こちらのフォームよりお知らせください。 他言語版はこちらからご覧ください。 For other languages, click the flag icon. 다른 언어는 국기

                                                        • 「マイクロサービス」の構成や特徴を、図とテキストで学ぼう

                                                          1 マイクロサービスとは マイクロサービスは、小規模なサービス(機能)を疎結合で組み合わせて1つのアプリケーションを構成するアーキテクチャ(システムの構造)です。各機能はそれぞれ独立して動作し、ネットワークを介してタスクを処理します。 マイクロサービスはクラウド技術と相性が良く、機能変更や拡張に対する柔軟性の高さ、またユーザーのニーズに迅速に対応できる開発スピードの速さから、採用するシステムが増えています。 2 マイクロサービスの特徴 マイクロサービスには以下のような特徴があります。 2.1 サービスの自律性 各サービスはそれぞれ機能とデータを持っていて、他のサービスから独立して動作します。これにより、システム全体を小さな部品として分けて管理しやすくなります。 2.2 疎結合 サービス間の依存関係を最小限に抑えるように各サービスを設計することで、特定のサービスに対する変更や更新が他のサービ

                                                            「マイクロサービス」の構成や特徴を、図とテキストで学ぼう
                                                          • 【2024年】ITエンジニア本大賞まとめ - Qiita

                                                            アジャイルプラクティスガイドブック チームで成果を出すための開発技術の実践知 チーム・組織にプラクティスを導入し、根付かせるために! 116の手法を一冊にまとめた“実践”の手引き チームでのアジャイル開発には、開発技術やツールなどの「技術プラクティス」の活用が重要です。 プラクティスはそれぞれの目的や役割を意識することで効果を発揮します。しかし、目まぐるしく状況が変化する開発では、当初の目的を忘れて、プラクティスに取り組むこと自体が目的化してしまうチームも少なくありません。 本書は、チーム・組織でアジャイル開発に取り組んできた著者が、プラクティスの効果的な選択・活用のしかたについて、自らの実践経験に基づいてまとめたガイドブックです。 架空の開発現場を舞台にしたマンガとともに、チーム開発の様々なシーンで役立てられるプラクティスを、幅広くかつわかりやすく解説しています。開発現場に備えておけば、

                                                              【2024年】ITエンジニア本大賞まとめ - Qiita
                                                            • Cloud Run × Event-Driven Architecture の並列分散処理によるデータ処理高速化への取り組み

                                                              Cloud Run × Event-Driven Architecture の並列分散処理によるデータ処理高速化への取り組み この記事は、Magic Moment Advent Calendar 2023 5日目の記事です。 こんにちは! Magic Moment で Tech Lead をやっている Miyake です。 弊社のセールスオペレーションクラウド「Magic Moment Playbook」では、大量の営業データに対してバッチ処理を行うシーンがあります。 今回はバッチ処理の高速化について、Cloud Run と Event-Driven Architecture を活用したアーキテクチャで取り組んだときのお話をしたいと思います。 実装した背景 リアーキテクト以前では、課題が大きく2つありました。 処理速度が単純に遅い リソースの枯渇によるパフォーマンスの低下 「1. 処理速度

                                                                Cloud Run × Event-Driven Architecture の並列分散処理によるデータ処理高速化への取り組み
                                                              • 【海外記事紹介】PostgreSQLでUUIDを主キーとして使う

                                                                7月6日、MACIEJ WALKOWIAK氏が「PostgreSQLとUUIDをプライマリキーとして使用する方法」と題した記事を公開し、注目を集めている。この記事では、UUIDをPostgreSQLのプライマリキーとして効率的に使用する方法について詳しく紹介されている。 UUIDの概要 UUIDは一意性が保証され、分散システム間で容易に共有できるため、データベースのプライマリキーとしてよく使用される。ただし、UUIDのサイズを考慮すると、その選択が正しいかどうかは疑問の余地がある。この記事では、UUIDが適切かどうかではなく、どのようにPostgreSQLで効率的に使用するかに焦点を当てている。 Postgresのデータ型 UUIDは文字列として見なすことができ、textデータ型を使用して保存することも可能だが、Postgresには専用のuuidデータ型があり、これは128ビットのデータ型

                                                                  【海外記事紹介】PostgreSQLでUUIDを主キーとして使う
                                                                • サンリオのECサイトで別人の情報、手軽なクラウド設定に潜む落とし穴

                                                                  サンリオのEC(電子商取引)サイトで他の顧客情報が表示される事象が発生した。原因は負荷分散システムの設定ミスだ。サンリオの依頼に基づいて運用企業が設定する際に誤りがあった。個人情報が漏洩した可能性のある顧客は最大で145人と多くはない。しかし後を絶たない設定ミスによる情報漏洩は教訓に満ちている。 「他人の情報が見えている」――。2023年10月12日午後、サンリオのコールセンター宛てにこんな問い合わせが舞い込んだ。 情報漏洩が発生したのは、同社が運営するECサイト「サンリオオンラインショップ本店」。一部のWebページを閲覧したときに、別人の個人情報が表示される事象が発生した。具体的には、利用者の登録情報を管理する「マイページ」や、商品を注文する過程で表示する「ご注文手続き」のページを閲覧した際に、他のユーザーの個人情報が表示されることがあった。 誤表示の可能性がある個人情報は注文者の氏名、

                                                                    サンリオのECサイトで別人の情報、手軽なクラウド設定に潜む落とし穴
                                                                  • DDDってなんでオニオンとかといっしょに出てくるの?を社内で聞いてみた | 豆蔵デベロッパーサイト

                                                                    この記事は夏のリレー連載2024初日の記事です。 夏のリレー連載の企画ということで今回はいつもとは趣を変え、筆者が社内Slackに「DDDってなんでオニオンとかといっしょに出てくるの?」と聞いたときのやり取りを紹介したいと思います。記事化の目的には筆者自身が技術的に「へぇー」と思ったことのアプトプットもありますが、それ以上に豆蔵の雰囲気を少しでも知ってもらえればいいなという思いもあります。読んでもらい豆蔵の社風的なものを少しでも感じ取っていただければ幸いです。 TL;DR # やり取りはいいから結局なんでなの?を取り急ぎ知りたい人向けに聞いた結果の結論を筆者なりの見解としてまとめると次のようになります。 DDDに特定のアーキテクチャは必要ない 必要なのは技術的な関心事とビジネス上の関心事を分離することができるアーキテクチャだけ 技術とビジネスの関心事の分離を直接的に実現するには依存関係逆転

                                                                      DDDってなんでオニオンとかといっしょに出てくるの?を社内で聞いてみた | 豆蔵デベロッパーサイト
                                                                    • CMUのソフトウェア工学修士を修めた - pco2699’s blog

                                                                      昨年12月にCMUのソフトウェア工学修士を無事に修めました。主に昨年 秋学期の振り返りをしようかと思います。入学から秋~春ぐらいのお話は以下の過去記事を参照ください。 blog.pco2699.net blog.pco2699.net blog.pco2699.net 授業 今年の秋は、「Advanced Distributed And Operating Systems」という CSのPhD向けのクラスを取りました。 www.cs.cmu.edu 授業はCSの論文のディスカッション、グループプロジェクトで構成されます。学期前半はDynamoやMapReduce、Tenserflowなど著名な分散システムやオペレーティングシステムの論文を読んでディスカッションを行います。学期後半は、グループプロジェクトとして、3人グループで論文を書きます。 この授業の教授がシステム界隈では有名な方らしく、

                                                                        CMUのソフトウェア工学修士を修めた - pco2699’s blog
                                                                      • イミュータブルデータモデルにおける "削除フラグ" の表現

                                                                        イミュータブルデータモデリング Q. イミュータブルデータモデリングについて教えてください。 A. 以下、ChatGPT の回答です。 イミュータブルデータモデリング(Immutable Data Modeling)は、データモデリングのアプローチの一つで、データを不変(変更不可)な形式で扱う方法です。このアプローチでは、データが一度生成されたら、その値を変更せず、新しいバージョンを作成することが一般的です。イミュータブルデータモデリングは、分散システム、バージョン管理、データの整合性、履歴のトラッキングなどのさまざまな領域で有用です。 以下は、イミュータブルデータモデリングの主要な特徴と利点です。 データの安定性と信頼性: データが不変であるため、一度データが記録されたら、それを変更することができないため、データの信頼性と安定性が向上します。これは、エラーやバグがデータを破損させる可能性

                                                                          イミュータブルデータモデルにおける "削除フラグ" の表現
                                                                        • 私はこうしてGoogleに入社した(アイルランド編)|KotaのXにはかけない雑多なこと

                                                                          こんにちはKotaです。 アイルランド在住ソフトウェアエンジニアです。Googleアイルランドに勤めております。 今まで自分がアイルランドへ来た経緯とかは一部の人にしか話してなくて「なんでアイルランドなの?」って聞かれることが多くあったので、この記事を残そうかと思います。だいぶ長くなっちゃいましたが全部読んでくれたらとても喜びます。最後に有料コンテンツとしてオファー額+αを載せていますので興味がある人は買ってみてください。 リクルーターからの接触(2019/12)2019年12月にリクルーターからの最初のメールが来ました。渋谷オフィスができて、オフィスに人を集めたいから受けないか?とのことでした。学生時代に一度Googleを受けて落ちた経緯があってそのリストを使って連絡してきたそうです。前職には特に不満はなかったですが、最終面接まで行ったら渋谷オフィスのランチが食べられるし、どーせ受からな

                                                                            私はこうしてGoogleに入社した(アイルランド編)|KotaのXにはかけない雑多なこと
                                                                          • 「ソフトウェアアーキテクチャ・ハードパーツ」の情報リンク~マイクロサービスの設計技法の課題は何なのか - プログラマの思索

                                                                            ソフトウェアアーキテクチャ・ハードパーツ ―分散アーキテクチャのためのトレードオフ分析を読んでいて、まだ中身を理解できていない。 ネット上の感想記事を自分用にリンクしておく。 【参考】 『ソフトウェアアーキテクチャ・ハードパーツ』 - Don't Repeat Yourself (引用開始) また、最近話題になっていた『ソフトウェアアーキテクチャの基礎』(以降、「基礎」)を執筆した著者陣が書いたもう一冊の本でもあります。 「基礎」はアーキテクトとしての姿勢や、それぞれのアーキテクチャの簡単な概要が中心でしたが、この本はより実践に近く方法論寄りです。「基礎」が「What」を扱うとすれば、本書は「How」を扱うといった関係性でしょうか。 (引用終了) (引用開始) 現代ではデータをどのように設計し、分割しつつ整合性を保って保管しておくかといった一連の流れの重要度が増しています。この問題について

                                                                              「ソフトウェアアーキテクチャ・ハードパーツ」の情報リンク~マイクロサービスの設計技法の課題は何なのか - プログラマの思索
                                                                            • 「eBPF」の利点とその登場が及ぼすクラウドネイティブへの影響とは? | 東京エレクトロンデバイス

                                                                              このコラム欄で2022年8月に公開した記事「Dockerコンテナと関連技術をやさしく解説 (最終回) Dockerコンテナと関連技術は今後どのように進化していくのか?」で、クラウドネイティブ関連でさらに注目度が高まる技術は「eBPF」と「WebAssembly」であると書きました。今回は、そこでは書き切れなかったeBPFに関する動向を紹介します。 eBPFとは、Linuxカーネルのコードを変更することなく、カーネルの持つさまざまな機能をフックすることで、カーネルに対して動的な機能拡張を実現する技術です。Linuxのカーネルの動的な機能拡張が、なぜクラウドネイティブの文脈で注目されているのか。最大の理由はネットワーク機能の拡張にあります。 一般にクラウドネイティブなアプリケーションと言えば、複数のサービスをネットワーク経由で相互に連携させる分散システムとなります。このとき、サービス間の認証、

                                                                                「eBPF」の利点とその登場が及ぼすクラウドネイティブへの影響とは? | 東京エレクトロンデバイス
                                                                              • Data Observability の概要

                                                                                本記事は、某コミュニティで Data Observability について議論するために書き下したメモです。もし Data Observability について議論されたい方は気軽にコメントください。 概要 Data Observability を直訳するとデータの可観測性。あくまでデータを観測できるようにする技術分野であって、 Data Observability すなわち、データ品質ではない。 本来の意味合いは、外部から観測可能な出力を使って、複雑なシステムの内部状態や振る舞いを観測可能にすること。それにより、対象システム(あるいはデータ)をより理解できるようにする。よく理解できるようにした結果、データの品質やパフォーマンスの最適化などの取り組みを楽にできる場合がある。ただし、ツールやサービスを入れると自動的に実現できるわけではない。 語源は制御工学分野の Observability

                                                                                  Data Observability の概要
                                                                                • 世界一わかりやすいゼロ知識証明 Vol.1: A Gentle Primer on Ethereum

                                                                                  執筆に際して、フィードバックとレビューをしてくださった堤隆道さんに感謝します。 Special thanks to Takamichi Tsutsumi for feedback and review. 1. はじめに 「すべて偉大なものは単純である。」 『音と言葉』・フルトヴェングラー 日本語で書かれた技術系記事の課題 トピックに限らず、日本語で特定の技術に関して検索をかけると、検索結果が英語での検索に比べて圧倒的に少ないことに加えて、検索結果の99%は以下のいずれかに該当することがわかるでしょう。 幅広い読者層を意識するあまり、解説が表面的すぎる 解説自体は詳しいが、数学や技術に偏りすぎていて、読者層が限定される 海外の有名な記事の直訳 検索結果の絶対量については、テクノロジー分野が英語圏を中心として発展してきたことに起因するため、日本語化に至るまでに多少のタイムラグがあるのは仕方がな