Apache Kafka Streams + Machine Learning (Spark, TensorFlow, H2O.ai) - Java Code Geeks
Apache Kafkaに対応したSQLエンジン「KSQL」リリース、ストリームデータをSQLで継続的に処理。Confluentがオープンソースで
Apache Kafkaを用いたリアルタイムデータ処理の商用サービスを提供しているConfluentは、Apache Kafkaに対応したオープンソースのSQLエンジン「KSQL」のデベロッパープレビューをリリースしました。 Apache Kafkaはスケーラビリティに優れ、大量のデータをリアルタイムに処理できるソフトウェアです。さまざまなアプリケーションから送られてくるログや大量のセンサーなどから生成されるデータなど、リアルタイムに送信されてくるストリームデータをいったんKafkaで受け止め、それをまとめてHadoopなどの分析エンジンに渡してデータの分析を行う、といった形で使われます。 KSQLは、このKafkaに対応したSQLエンジン。これによりJavaやPythonで複雑な処理を記述しなくとも、ストリームデータを柔軟に加工できるようになります。 SQLとKSQLの違いとは？ 一般的
Apache Kafka（とApache ZooKeeper）をEmbeddedに使う - CLOVER🍀
最近、Apache Kafkaで遊んでいますが、こう使っているとEmbedded（組み込み）で動かしてみたくなるもの。テストとかで 使ったりとか。 なんかできそうだという感じだったので、チャレンジしてみました。 こちらに書いてありましたので。 Unit testing / How do I write unit tests using Kafka? …と思ったのですが、最終的にこちらの内容はあまり使わなくなりました…。 目標 Apache Kafka（とApache Kafkaが必要とするApache ZooKeeperも）を、Unit Testコード内でEmbedddedに動かします。 テストコード内で、Brokerをクラスタ化するところまでを目標にします。 準備 Maven依存関係は、こちら。 <dependency> <groupId>org.apache.kafka</groupI
Apache KafkaのConsumer Groupを試す - CLOVER🍀
Apache Kafkaには、Consumer Groupという概念があります。 Introduction / Consumers Consumerにラベル付けをすることで、Consumerをグルーピングします。こうすることで、Brokerから配信されるレコードが、そのConsumer Group内の ひとつのConsumerに配信されるようになります。 上記のドキュメントのように、2つのConsumer Groupがあった場合は、2つのConsumer Group内のどれかひとつずつのConsumerインスタンスが レコードを受け取ります。 仮に全Consumerが同じConsumer Groupに属して入れば単純に負荷分散、全Consumerが異なるConsumer Groupであれば ブロードキャストのような扱いになります。 参考） Java Clientで入門する Apache K
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Apache Kafka Meetup Japan 3 で発表してきた - xuwei-k's blog
