タグ

ブックマーク / mag.osdn.jp (13)

  • 「ストリーミングSQLリレーショナルデータベース」をうたう「PipelineDB」が登場 | OSDN Magazine

    オープンソースのストリーミングSQLリレーショナルデータベースプロジェクト「PipelineDB」が7月7日に始動した。PostgreSQLと互換性があり、継続的クエリなどの特徴を加えたもの。初期リリースとしてバージョン0.7.7を公開している。 PipelineDBは、SQLクエリをストリームで継続的に走らせることができるリレーショナルデータベース。継続的処理とリレーショナルストレージを組み合わせたもので、結果はインクリメンタルにテーブルに保存される。クエリプランナーと実行エンジンを備え、ストリームでのリアルタイムの処理を行うことでアプリケーションコードを書くことなくSQLを利用してリアルタイムのデータ処理が可能としている。PostgreSQL互換で、PostgreSQLをそのまま置き換えることができるという。 ETLレイヤーを持たず、データを直接データベースにストリーミングして継続的に

    「ストリーミングSQLリレーショナルデータベース」をうたう「PipelineDB」が登場 | OSDN Magazine
    kimutansk
    kimutansk 2015/07/10
    普通にクエリを発行すると、それがストリームとして返ってきて継続的に条件に合致するデータが受け取れる・・といった感じなんですかね。
  • 既存のNoSQL型データベースより10倍高速をうたう「Aerospike」、オープンソースで公開 | OSDN Magazine

    NoSQL型データベースを開発するベンチャー企業の米Aerospikeは6月24日、同社が開発するデータベースシステム「Aerospike」をオープンソースソフトウェアとして公開したことを発表した。一般的なNoSQL型データベースの10倍、SQL型データベースの100倍の性能を実現可能とアピールしている。 Aerospikeはインメモリ型のリアルタイムNoSQLデータベース。RAM上にインデックスを、SSD上にデータを配置するといった柔軟性の高いインメモリ技術を持ち、大規模データをリアルタイムで高速に処理できるという。拡張性も高く、またACIDサポートやダウンタイムゼロという特徴もあるとしている。 サーバー側はハイブリッド型メモリシステムとリアルタイムエンジンをベースに、その上でスマートクラスタやデータセンターレプリケーション機能が動く。ノードを追加すると自動でデータの再配置と負荷分散が行

    既存のNoSQL型データベースより10倍高速をうたう「Aerospike」、オープンソースで公開 | OSDN Magazine
    kimutansk
    kimutansk 2014/06/27
    10倍高速とありますが、どういう条件をそろえた場合の話なんでしょうねぇ。
  • Chefでクラスタが管理できるフレームワーク「Chef Metal」がリリース | OSDN Magazine

    米Chef Softwareは3月4日、Chefでクラスタやクラウドの管理を可能にするフレームワーク「Chef Metal」プロジェクトを発表した。アルファ版という「Chef Metal 0.2」も同時に公開された。 Chefは、「レシピ(Recipe)」と呼ばれる設定ファイルの記述に従ってOSやソフトウェアの設定などを自動で実行するツール。Chef MetalはChefでクラスタを管理するためのフレームワークで、Chefでマシンを管理するのと同じようにレシピでクラスタを管理できる。 プラグインモデルを持ち、VirtualBoxやEC2、LXCなど、さまざまな仮想化技術向けの設定を記述できる。これにより、複数台のサーバーを管理・構成するレシピの記述やそれによるクラスタの作成などが可能になる。VirtualBox、VMwareなどの仮想化プラットフォームで利用できるVagrantや、EC2な

    Chefでクラスタが管理できるフレームワーク「Chef Metal」がリリース | OSDN Magazine
    kimutansk
    kimutansk 2014/03/12
    Chefでクラスタを管理できるフレームワークで、仮想マシン基盤も様々なモノに対応可能と。こういうのもありますか。
  • RHEL 6.5互換となるLinuxディストリビューション「CentOS 6.5」リリース | OSDN Magazine

    CentOS開発チームは12月1日、Red Hat Enterprise Linux(RHEL)互換のLinuxディストリビューション「CentOS 6.5」を公開した。Precision Time Protocolなど、RHEL 6.5の最新機能を利用できる。 11月21日の米Red Hatによる「RHEL 6.5」のリリース後、約10日でのCentOS 6.5リリースとなった。LAN上で高精度な時間同期を実現するPrecision Time Protocol(PTP)、OpenSSL 1.0.1へのアップデート、OpenSSLとNSS(Network Security Services)でのTLS 1.1および1.2サポートなど、RHEL 6.5が提供する新機能がCentOSでも利用可能になる。仮想化ではKVMでのVMDKおよびVHDXファイルのリードオンリーサポートなどが強化され、H

    RHEL 6.5互換となるLinuxディストリビューション「CentOS 6.5」リリース | OSDN Magazine
    kimutansk
    kimutansk 2013/12/04
    もうCentOS6.5も来ましたか。仮想化周りの強化があるので今後の確認時には使いますか。
  • 米Red Hatが「RHEL 6.5」を発表――Docker対応、仮想化KVMも強化 | OSDN Magazine

    米Red Hatは11月21日(米国時間)、Linuxディストリビューション「Red Hat Enterprise Linux 6.5」をリリースした。コンテナ技術Dockerやネットワーク経由で高精度な同期を行う標準規格「PTP」のサポートなどが加わり、仮想化はKVMを中心に強化されている。 Red Hat Enterprise Linux(RHEL) 6.5は現在の最新ブランチであるバージョン6系の最新版。2月に公開されたバージョン6.4に続くリリースで、ネットワークやセキュリティ、仮想化などで強化が行われている。 ネットワークでは、LAN上での高精度な時間同期のための「Precision Time Protocol(PTP)」をサポート、高速で低遅延のアプリケーションを支援するという。アーカイブしたデータのタイムスタンプの精度なども改善し、OpenStackのネットワーク名前空間のサ

    米Red Hatが「RHEL 6.5」を発表――Docker対応、仮想化KVMも強化 | OSDN Magazine
    kimutansk
    kimutansk 2013/11/27
    「コンテナ技術Dockerやネットワーク経由で高精度な同期を行う標準規格「PTP」のサポート」は大きいですね
  • 米Facebook、SSDをキャッシュとして利用するための技術「FlashCache ⒊0」を公開 | OSDN Magazine

    米Facebookは10月10日、Linux向けの汎用キャッシュ技術「FlashCache ⒊0」を公開したことを発表した。SSDをキャッシュ用ストレージとして利用するための技術で、コストを抑えつつ性能を強化できるという。 FlashCacheはSSDをキャッシュデバイスとして使用するためのオープンソースプロジェクトで、Facebook社内で2010年にスタートした。Linuxカーネルデバイスラッパーのターゲットとして実装するというソフトウェアベースのアプローチをとる。データ書き込み時にHDDと同時にSSDにも書き込みを行い、読み出し時にはSSDを参照する。Facebookがユーザーデータを保持しているというMySQLとInnoDBエンジンと連携して動作するよう開発されているが、Linuxシステムのキャッシュシステムとしても利用できるという。 ⒊0は新しいブランチとなり、読み出しと書き込み

    米Facebook、SSDをキャッシュとして利用するための技術「FlashCache ⒊0」を公開 | OSDN Magazine
    kimutansk
    kimutansk 2013/10/12
    あれ、これってLinuxの新しいKernelに入っているSSDキャッシュとどう違うんでしょうね(汗
  • 米Twitterなどでも利用されているクラスタマネージャ「Apache Mesos」、ApacheのTLPに昇格 | OSDN Magazine

    非営利団体のApache Software Foundation(ASF)は7月24日、クラスタ管理ソフトウェア「Apache Mesos」をトップレベルプロジェクト(TLP)に昇格したことを発表した。米Twitterやカリフォルニア大学で使われているクラスタ管理ツールで、分散環境でリソースの分離と共有を効率よく行うことができるという。 Apache Mesosはカリフォルニア大学バークレー校の研究機関AMPLabのプロジェクトを起源とし、データセンターでのリソースの共有/隔離を管理する技術として開発された。アプリケーションとプールされたサーバー間の抽出レイヤとして動作し、分散環境でジョブの実行を最適化できる。これにより、無駄なクラスタの作成を防ぐという。 1万台のノードにも対応し、ZooKeeperを利用したフォールトトレランス、マルチリソーススケジューリング、Webベースの管理UI、J

    米Twitterなどでも利用されているクラスタマネージャ「Apache Mesos」、ApacheのTLPに昇格 | OSDN Magazine
    kimutansk
    kimutansk 2013/08/28
    MesosはTLPに昇格していたんでしたね。Sparkもそのうちくるでしょうか。
  • サーバー性能分析ツール「zPerfmon」、米Zyngaが公開 | OSDN Magazine

    ソーシャルゲームサービスを提供する米Zyngaは8月9日、自社が利用しているサーバー性能モニタリングツール「zPerfmon」をオープンソースで公開した。ライセンスはApache License 2.0。1台のマシンで数千台のサーバーのデータを収集・分析できるという。 zPerfmonは、Zyngaが運用環境にある番サーバーの性能を調べる目的で開発したツール。ゲームやサービスが増えるにつれて性能への潜在的問題も増えており、これを効率よくモニタリング・管理するために開発した。開発チームによると同社ではzPerfmonを利用して一日に約150ギガバイト、データベース内で1億行にも上るのデータを処理し、さまざまな方法で活用されているという。 zPerfmonは、対象サーバー上で動作するクライアントと、収集されたデータのETL(抽出/加工/書き出し)や保存を行うサーバー側の処理エンジンで構成され

    サーバー性能分析ツール「zPerfmon」、米Zyngaが公開 | OSDN Magazine
    kimutansk
    kimutansk 2013/08/13
    数千台のサーバの性能情報を収集、視覚化、相関分析ができるツールと。収集サーバ側がどういう構成になっているか・・・見てみますか。
  • 米Netflix、Amazonクラウド上でのHadoopの運用管理サービス「Genie」を公開 | OSDN Magazine

    Netflixは6月21日、Amazon Web Service(AWS)クラウド上に構築された「Apache Hadoop」を管理するソフトウェア「Genie」をオープンソースで公開した。Hadoopや「Apache Hive」、「Apache Pig」のジョブを実行したりHadoopリソースの管理を行うためのRESTful APIを提供するもので、動的なリソース管理が可能になるという。 Netflixはビデオストリーミングサービスなどを提供する企業。同社はサービスの運用に「Amazon S3」などAWSのクラウドサービスを多用、クラウド上に多数のHadoopを構築しており、それらを管理するために自社で開発したツールをオープンソースで公開している。今回公開されたGenieは「HadoopベースのPaaS」との位置付けで、Netflixがすでに公開している「Karyon」(ブートストラッ

    米Netflix、Amazonクラウド上でのHadoopの運用管理サービス「Genie」を公開 | OSDN Magazine
    kimutansk
    kimutansk 2013/06/29
    Netflixの実績を考えるとかなりよさそうに思えますが・・・ 動かしてみますか。
  • バージョン管理システム「Subversion 1.8」が登場、競合解決ツールや出力の改善など変更点多数 | OSDN Magazine

    Apache Software Foundation(ASF)は6月18日(米国時間)、オープンソースのバージョン管理システム「Apache Subversion 1.8」をリリースした。マージ追跡とツリー競合検出を強化するなど、ブランチやマージがよく発生するプロジェクト向けの機能を強化したという。 Subversionは広く使われているバージョン管理システム。複数の開発者が1つのリポジトリにネットワーク経由でアクセスする中央集権型のアーキテクチャを持つ。幅広いプラットフォームに対応し、さまざまなクライアントから利用できる。以前は米CollabNetの下で開発が進められていたが、2009年にApache Software Foundation(ASF)への移管が発表され、以後はASFの下で開発が進められている。 Subversion 1.8は2011年半ばに登場したバージョン1.7に続くメ

    バージョン管理システム「Subversion 1.8」が登場、競合解決ツールや出力の改善など変更点多数 | OSDN Magazine
    kimutansk
    kimutansk 2013/06/20
    メジャーバージョンアップ来ましたか。そして1.6系もサポート終了と。 機能は今度試してみましょう。
  • Mozilla、Goで実装されたサーバーログ収集・分析ツール「Heka」を公開 | OSDN Magazine

    Mozillaは4月30日、サーバーのログデータ収集や分析の簡素化を図るフレームワーク「Heka」のベータ版「Heka v0.2b1」をリリースした。サーバーの稼働状況に関するさまざまなデータの収集・分析などを簡素化・容易化するツールで、初めてのベータ版公開となる。 HekaはMozillaのサービスチームが開発したツール。メッセージのルーティング、収集、分析などの機能をもつ「hekad」とクライアントライブラリから構成されている。logstasch、statsd、syslogなどさまざまなツールが持つ役割を統合するもので、ログファイルやサーバー診断などのデータを収集し、標準形式に変換した後にルーティングルールセットに基づき評価してルーティングするという流れ。hekadはデータパイプラインの構築に適しているとの理由から米GoogleGo言語で作成されており、軽量でほとんどのホストで動くと

    Mozilla、Goで実装されたサーバーログ収集・分析ツール「Heka」を公開 | OSDN Magazine
    kimutansk
    kimutansk 2013/05/03
    fluentdやflumeと立ち位置的には似たようなものなんですかね。。。ただ、Goですか
  • 米LinkedInが分散型のデータ変更通知フレームワーク「Databus」をオープンソースで公開 | OSDN Magazine

    ビジネス向けSNSを提供する米LinkedInが、社内開発した更新通知のためのフレームワーク「Databus」をオープンソースで公開した。ほぼリアルタイムでデータベースの変更をキャプチャできるという。 Databusは分散型のデータ変更キャプチャシステム。同社のデータ処理パイプラインの一部として開発された。データソースに依存せず、タイムラインと一貫性を保ちながら新しいレコードの追加、変更、削除といった情報が含まれるデータを提供するという。遅延の少ない伝送レイヤを持ち、ほぼリアルタイムで変更に関する情報を取得、処理できるのが特徴。 変更を監視するデータベースコネクタ、最近の変更を効率的に取得するためのインメモリ・リレー、スナップショットを格納しクエリをかけられるブートストラップサービス、シンプルなAPIを利用して変更を取得するクライアントといったコンポーネントで構成される。データベースコネク

    米LinkedInが分散型のデータ変更通知フレームワーク「Databus」をオープンソースで公開 | OSDN Magazine
    kimutansk
    kimutansk 2013/03/06
    データベースの変更を外付けでリアルタイムに見れるフレームワーク、と。ふむふむ。
  • Hadoop開発を容易にする「Spring for Hadoop 1.0」が登場 | OSDN Magazine

    SpringSource(米VMware傘下)は2月26日、「Spring for Apache Hadoop 1.0」をリリースした。Java向けのアプリケーションフレームワーク「Spring Framework」に「Apache Hadoop」を利用するための機能を組み合わせたもので、Hadoopアプリケーションの開発を容易にするという。 2012年2月に初のマイルストーンを公開以来、ちょうど1年を経ての正式版リリースとなった。Spring FrameworkからHadoopのMapReduceクエリを利用する、といったことが可能で、Spring Frameworkを利用したHadoopアプリケーションの開発を容易にすることを目指すという。ライセンスはApache License 2.0を採用する。 SpringのTemplate APIデザインパターンを応用、HBase向けの基的な

    Hadoop開発を容易にする「Spring for Hadoop 1.0」が登場 | OSDN Magazine
    kimutansk
    kimutansk 2013/03/03
    開発を容易・・・というか、効率化は出来そうな感じですね。ディストリビューションがどこまで確認されるか、でしょうか。あとは。
  • 1