タグ

cassandraに関するuokadaのブックマーク (5)

  • Instagramはいかにしてステートフルサービスを分割したか

    Spring BootによるAPIバックエンド構築実践ガイド 第2版 何千人もの開発者が、InfoQのミニブック「Practical Guide to Building an API Back End with Spring Boot」から、Spring Bootを使ったREST API構築の基礎を学んだ。このでは、出版時に新しくリリースされたバージョンである Spring Boot 2 を使用している。しかし、Spring Boot3が最近リリースされ、重要な変...

    Instagramはいかにしてステートフルサービスを分割したか
  • Distributed delay queues based on Dynomite

    Netflix’s Content Platform Engineering runs a number of business processes which are driven by asynchronous orchestration of micro-services based tasks, and queues form an integral part of the orchestration layer amongst these services. Few examples of these processes are: IMF based content ingest from our partnersProcess of setting up new titles within NetflixContent Ingest, encode and deployment

    Distributed delay queues based on Dynomite
  • Flume cassandra real time log processing (日本語)

    2. 概要 1. ログ収集、データベースへの格納 ログ収集、データベースへの格納 収集 • 複数のアプリケーション・ノードからの、 Flumeによる信頼性や効率の高いログ収集。 • Cassandraデータベースへの生ログや処理済みログの格納。 2. リアルタイム、オンデマンドのレポート リアルタイム、 • ウェブGUIからCassandraへのクエリー。 (例)1秒当たりトランザクション処理件数(TPS) VS 時間、ユーザーのCDR検索。 によるサマリーレポート 3. Map-Reduceによるサマリーレポート • (例)ユーザー群毎の種類別(音声、データ、メール等)月間利用 アプリケー アプリケー … アプリケー ション・ノード ション・ノード ション・ノード ログ・ ログ・ OA&M アグリゲータ アグリゲータ レポート (Web GUI) Cassandra Cassandra

    Flume cassandra real time log processing (日本語)
  • Cassandra Thrift APIのConsistencyLevel « Rest Term

    前回に引き続きCassandraについて調査継続中で、今回はThrift APIの ConsistencyLevel について。以下のサイトの該当項目をざっくりと意訳した程度のメモです。 API06 – Cassandra Wiki Cassandra Thrift APIにおける ConsistencyLevel は、 storage-conf.xml で設定した <ReplicationFactor> (データの複製を保存するノード数)に基づいてread/writeの振る舞いを制御します。以下の条件が成り立つ場合は強い一貫性が得られ、常に最新データを参照できます。

    Cassandra Thrift APIのConsistencyLevel « Rest Term
  • TwitterがCassandraを使った理由と移行方法

    「才能を非生産的な事に浪費してこそ、真のヲタクである」 この名言にかなう為に日々色々学ぶ日々(多分)。 相変わらずの意訳な上に要点のみの抜き出しです。 間違っていたらTwitterでもコメントでいいのでがんがん指摘してください。 =============== Twitterではデータ量、データ増加量が急加速している。 今まではMySQLとmemcashedで運用してきたが、特に運用要員の面で費用が莫大になってしまった。 その為により自動的でより高い分散容易性、より高い可用性を必要とした。 選択肢として上ったのが下記の二つ。 ・MySQL Clusterの今以上の自動化 ・KVS(HBase、Voldemort、MongoDB、MemcacheDB、Redis、Cassandra、HyperTable)への移行 次の検証を行う事で選択肢の絞り込みを行った ・新規Node追加の容易性 ・SP

  • 1