タグ

2013年5月17日のブックマーク (2件)

  • Apache Kafka概要確認(その8 Producerプロセス - 夢とガラクタの集積場

    こんにちは。ついに設計の大方針の内容が終わり、 個々のプロセスの設計の内容に入っていくようです。 11.Producer Producerプロセスの自動ロードバランシング Kafkaは、ProducerのTCP接続のバランスをとるための専用ロードバランサを使用するために クライアントサイドのロードバランシングをサポートしている。 専用のレイヤ4ロードバランサはBrokerプロセス経由でTCP接続のバランスを取ることによって動作する。 この構成の場合、Producerプロセスが生産したメッセージは全て単一のBrokerプロセスに集約される。 レイヤ4ロードバランサを使う利点は各Producerプロセスは単一のTCPコネクションのみを必要とし、 Zookeeperへの接続を行う必要がないことである。 欠点はロードバランシングがTCP接続レベルで行われており、結果として上手くバランシングが行われ

    Apache Kafka概要確認(その8 Producerプロセス - 夢とガラクタの集積場
    kimutansk
    kimutansk 2013/05/17
    #kafka Producerプロセス側にパーティショナーを仕込むことでグルーピングが可能になると。ランダム以外の既成パーティショナーは他に何があるんでしょうね
  • Linux kernel 3.9 の新機能 SO_REUSEPORT を試してみる - nigakyのブログ

    Linux kernel 3.9 のマージウィンドウでは SO_REUSEPORT というソケットオプションがマージされました。 Merge branch 'soreuseport' · c617f39 · torvalds/linux · GitHub これは同一ポートに複数のリスナー(listen ソケット)が bind できるようになるというもので、Webサーバなど単一のポートに多くのコネクションが来るようなワークロードで、複数プロセスでうまく負荷分散ができるようになるそうです。 (これまでだと一人がaccept()してそれぞれの worker に渡すというようなモデルがありましたが、これでは accept() する部分がボトルネックになってしまいがちでした。) BSDでは元々 SO_REUSEPORT オプションはあったようですが、マルチキャスト通信で使うもののようです。Linux

    Linux kernel 3.9 の新機能 SO_REUSEPORT を試してみる - nigakyのブログ
    kimutansk
    kimutansk 2013/05/17
    こんな機能が追加されていたわけですか。いつになったらOSのデフォルトのバージョンに含まれてきますかねぇ