photo credit: CoreBurn twitterが先日stormというリアルタイムな分散処理フレームワークstormを公開しました。 (ここでいうリアルタイムとは、すぐに、とか連続的に、というニュアンスで使っています) もともとはtwitterが買収したbacktypeの技術で、例えばt... 続きを読む
Storm — Presentation Transcript StormDistributed and fault-tolerant realtime computation Nathan Marz Twitter Basic info• Open sourced September 19th• Implementation is 12,000 lines of code• Used by over 25 companies• >2280 watchers on Gi... 続きを読む
Stormとは、twitterが公開して開発中のリアルタイム分散処理フレームワークです。 開発も活発で結構よいのでこれからHadoopのように使われるようになるんじゃないかと個人的に思っていて、日本語の情報が全然ないので勝手に日本語で紹介しています。 Stormの概... 続きを読む
1.はじめに 前回はソケット通信(Berkeley sockets)を簡単に使用する為のフレームワークZeroMQ(http://www.zeromq.org/)を紹介しました。今回は、もう少し実アプリケーションを作成する事を意識したフレームワークApacheのMina(Multipurpose Infrastructure for ... 続きを読む
ITシステムの性能問題は昔からあるテーマで,その基礎はほとんど変わっていないにも関わらず,多くのITエンジニアに理解されているとは言い難いものです. 現代のITシステムは多数の構成要素から成り立っており,性能問題の解決は相当にやっかいな難問になって... 続きを読む
前回まで3回( 第1回 , 第2回 , 第3回 )に渡って紹介してきたOSSの統合監視ツール「Zabbix」は、 監視したデータを取得したり、監視設定を行ったりするためのAPIの機能が備わっています。 APIを活用することで、Zabbixの管理画面とは違う別のアプリケーション上... 続きを読む
なぜzabbix? Hadoop監視ツールとしてはAmazon Elastic MapReduceでの利用や、NTTデータが公表した 検証資料 で採用された Ganglia の方が有名ですが、日本ではユーザ会の活動も活発なzabbix を使って監視したい!という方のためのアプローチです。zabbixに強い... 続きを読む
ここ1年ほどで、ネットワークの分野において「OpenFlow」というキーワードを目にする機会が急激に増えてきました。 昨年4月に世界初のOpenFlow対応製品の販売が開始されて以来、様々なネットワーク機器ベンダがネットワークスイッチのOpenFlow対応を発表してい... 続きを読む
リアルタイム分散処理とは 「ビッグデータ」処理のためにHadoopを用いますと、「複数のマシンに大量データ処理を分散して飛躍的に性能を向上する」ことが容易に可能となります。 ところがHadoopの弱点としまして、ビッグデータをいったん蓄積し、バッチで一括処... 続きを読む
第1回目 はZabbixの「テンプレート機能」、 第2回目 は「ディスカバリ機能」「自動登録機能」を紹介しました。 これらの機能だけでもかなりZabbixの監視環境構築にかかるコストが下げられたのではないかと思います。 第3回目の今回は、監視環境構築のコストを下... 続きを読む