並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 49件

新着順 人気順

ストリームデータ処理の検索結果1 - 40 件 / 49件

  • IoT時代におけるストリームデータ処理と急成長の Apache Flink

    2. Copyright © Acroquest Technology Co., Ltd. All rights reserved. 2 自己紹介  所属 • Acroquest Technology Co., Ltd. • 「働きがいのある会社」(GPTW) 従業員25~99人部門 2年連続1位  主な業務分野 • テクニカルアーキテクト • SEPG • IoTサービス開発 • ビッグデータ処理プラットフォーム  最近の興味 • サーバーレス • DevOps • Elasticsearch 鈴木 貴典 Twitter : @takanorig Qiita : http://qiita.com/takanorig 3. Copyright © Acroquest Technology Co., Ltd. All rights reserved. 3 本日お話する内容 #1 ビッグ

      IoT時代におけるストリームデータ処理と急成長の Apache Flink
    • Kafka+Storm+Elasticsearch+Kibanaでストリームデータ処理の可視化を行ってみた - Taste of Tech Topics

      こんにちは。kimukimuです。 AWS re:Invent 2013 で Amazon Kinesis が発表されるなど、 ストリームデータ処理に対するニーズの高まりを感じますね。 (Amazon Kinesis は、Stormとも連携できるようになっているようです)。 さて、先日、Storm 0.9.0 が正式リリースされたり、Apache Kafka 0.8.0 が正式リリースされたりしたので、 それらを連携して、ストリームデータの可視化を行うプロトタイプを作ってみました。 1. はじめに まず、「ストリームデータ」とは、連続的に発生し続けるデータのことを指します。 システムが出力するログやセンサーが発生するデータ、SNSなどで常時発生するメッセージなどが該当します。 今回は、Apacheが出力するログを、ストリームデータとして収集・可視化することを行ってみます。 1-1.やりたい

        Kafka+Storm+Elasticsearch+Kibanaでストリームデータ処理の可視化を行ってみた - Taste of Tech Topics
      • デブサミ2014-Stormで実現するビッグデータのリアルタイム処理プラットフォーム ~ストリームデータ処理から機械学習まで~

        鈴木 貴典+木村 宗太郎 TwitterのNathan Marz氏が開発している 「Storm」 。 2011年9月に、オープンソースとして公開されましたが、まだまだ日本で得られる情報は少なく、 詳細は不明なところも多いです。 そこで、日本初(たぶん)の「Storm」セッションを行います。 「Storm」は、CEP(Complex Event Processing=複合イベント処理)に属するプロダクトであり、 分散リアルタイム処理を行うための基本セットを提供しています。 今回のセッションでは、その概念や特性などについて解説してみます。

          デブサミ2014-Stormで実現するビッグデータのリアルタイム処理プラットフォーム ~ストリームデータ処理から機械学習まで~
        • Googleが考えるストリームデータ処理とは? - Qiita

          この記事は? この記事は、ドワンゴ Advent Calendar 2016の14日目の記事です。 この記事で書いている内容は? Googleが出しているストリームデータ処理の資料を要約したものです。 つまり、「Googleが考えるストリームデータ処理とは?」ということになるかと。 趣味でストリームデータ処理について調べていたのでまとめてみます。 出来るだけよく出てくる固有の言葉を最初から使用せずに書いているつもりですが、 何かわかりにくい場所あればコメントいただけると。 「ストリーム処理」とだけ書くとストリーミング配信等とも微妙に混同しやすいため、 区別のために「ストリームデータ処理」と書いています。 基となっている情報は下記の5つです。 MillWheel: Fault-Tolerant Stream Processing at Internet Scale The Dataflow

            Googleが考えるストリームデータ処理とは? - Qiita
          • Amazon Kinesis + Storm を連携させて、ストリームデータ処理を行ってみた - Taste of Tech Topics

            こんにちは。kimukimuです。 昨日はクリスマスイブでしたが、皆さんはどのように過ごされたでしょうか? 私はケーキは買う派ではなく、自分で作る派です。……まぁ、食べるのも自分なのですが…… クリスマスはさておき、今日はKinesisとStormに関する内容です。 AWS re:Invent 2013 で 発表されたAmazon Kinesis が12/17にPublic Betaになり一般公開されましたね! 以下のように、KinesisはStormのコネクタを含んでいる、ということなので、さっそく試してみましょう。 Kinesis does include a connector for porting data to Storm, which AWS General Manager for Data Science Matt Wood said is a possibility in

              Amazon Kinesis + Storm を連携させて、ストリームデータ処理を行ってみた - Taste of Tech Topics
            • 第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp

              機能と技術からわかる!システム基盤の実力 第4回とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? 近年、電子マネーや電子商取引が普及し、RFID利用による物流管理など、ビジネスで扱うデータの量が爆発的に増加しています。またビジネスのスピードも急激に加速しており、次々に流れてくる大量のデータをリアルタイムに処理することが求められています。 しかし、こうしたリアルタイム処理に従来からあるデータベースを使用すると、クエリなどを用いて蓄積されたデータを一括処理するため、データ検索などのクエリ実行時にタイムラグが生じてしまいます。そこで、現在注目されているのが、ストリームデータ処理技術です。 ストリームデータ処理技術とは、無限に到来する時刻順のデータ(ストリームデータ)をリアルタイムに処理するデータ処理方法です。たとえば、株価のテクニカル指標やランキング

                第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp
              • 学術的に見た ストリームデータ処理 2013年6月28日 筑波大学 講師 川島英之

                4. STORM Norikra Jubatus CEP DSMS SPE Relational-stream XML-stream S4 STREAM System S Algorithm trading Borealis(MIT/Brandeis) Stream computing Complex event processing Online learning Incremental computation Continual query Spring (DTW) CPD (Change Point Detection) Window-aggregate Window-join FPGA GPU SASE Fraud detection Malware detection AQP (Adaptive Query Proc.) Esper BRIMOS Handshake-join I

                  学術的に見た ストリームデータ処理 2013年6月28日 筑波大学 講師 川島英之
                • bashでストリームデータ処理 - Qiita

                  <でファイルや名前付きパイプ(named pipe, fifo)から標準入力へデータを流すことでき、>で標準出力をファイルや名前付きパイプへ流すことができます。 分配 一つのデータストリームを複数のプロセスに分配するパターンです。「放送(ブロードキャスト)」と言ってもいいかもしれません。 基本的にはteeコマンドで実現できます。 名前付きパイプを使う場合

                    bashでストリームデータ処理 - Qiita
                  • ストリームデータ処理サービスAmazon Kinesisについて調べた結果 - 夢とガラクタの集積場

                    こんにちは。 最近ストリームデータ処理サービスであるAmazon Kinesisのドキュメントを読んだり、 クライアントコードのソースを読んだり、実際の小さいアプリケーションを作ったりしたのですが、 その際にわかったことをとりあえずまとめておこうと思います。 1.Amazon Kinesisとは?(http://aws.amazon.com/jp/kinesis/) ・Amazon Kinesis は、大規模なストリーミングデータをリアルタイムで処理する完全マネージド型サービス ・大容量のストリームデータを受信し、提供することができる 2.Kinesisの構造(http://docs.aws.amazon.com/kinesis/latest/dev/introduction.html) ・Kinesisの実態は「大規模でスケール可能、メッセージが一定時間保存されるPubSub型キュー」

                      ストリームデータ処理サービスAmazon Kinesisについて調べた結果 - 夢とガラクタの集積場
                    • 実世界を実時間で計算--「ストリームデータ処理」の可能性:HITACHI Open Middleware World

                      印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 大量データのリアルタイム処理に求められるアーキテクチャ 実世界での情報が電子のデータに変換されることで、情報システムがもたらす意義は従来以上に大きくなろうとしている。そうした世界では、従来と同じようなデータ処理アーキテクチャでは対応できなくなっている。発生したデータはリアルタイムで処理されてこそ、意味があるからだ。そうした視点で、現在注目されているのが「ストリームデータ処理」と呼ばれる技術だ。 日立製作所は先月、同社ミドルウェア製品を中心にしたセミナー「HITACHI Open Middleware World 2008 Autumn」を主催。同セミナーの中で、このストリームデータ処理をテーマに、日立製作所の中央研究所の西澤格氏(情報シ

                        実世界を実時間で計算--「ストリームデータ処理」の可能性:HITACHI Open Middleware World
                      • VOYAGE GROUP エンジニアブログ : 【AWS re:Invent 2013 参加レポート】 AWSが切り開く大規模分散ストリームデータ処理の未来と、AWSを支えるエンジニアリング文化

                        2013年12月03日18:24 カテゴリ 【AWS re:Invent 2013 参加レポート】 AWSが切り開く大規模分散ストリームデータ処理の未来と、AWSを支えるエンジニアリング文化 adingoプラットフォーム本部エンジニアの @suzu_v です。11月12-15日にかけて米国ネバタ州ラスベガスにて開催されたAWS re:Invent 2013についてのレポートになります。 http://reinvent.awsevents.com/ re:Inventは年に一回開かれているAmazon Web Service(以下、AWS)のカンファレンスです。弊社でもAWSをサービス構築に利用しており、今後の展望や活用事例をヒアリングすべく、カンファレンスに参加してまりました。弊社からは私一人の参加となりました。 re:Inventは日本からの参加者向けにツアーが用意されております。このツ

                        • 日本IBM、研究開発のテーマや成果を紹介 ~今後はストリームデータ処理が重要に

                          • 大量データや新社会インフラを支える注目の技術「ストリームデータ処理」とは?

                            EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

                              大量データや新社会インフラを支える注目の技術「ストリームデータ処理」とは?
                            • 第5回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」②ストリームデータ処理基盤が開く新たな世界 | gihyo.jp

                              機能と技術からわかる!システム基盤の実力 第5回とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」②ストリームデータ処理基盤が開く新たな世界 前回説明したように、ストリームデータ処理技術とは、無限に到来する時刻順のデータ(ストリームデータ)をリアルタイムに処理するデータ処理方法です。このストリームデータ処理技術を採用したのが、日立のストリームデータ処理基盤「uCosminexus Stream Data Platform」です。 今回は、uCosminexus Stream Data Platformを適用したストリームデータ処理のモデルをいくつか紹介しましょう。 ITシステムの稼働監視 コスト削減や効率化が求められるITシステムでは、仮想化やクラウドの採用が加速しています。一方、システム構成の大規模化・複雑化によりITシステムの稼動状況が見えなくなってきており、障害検知・

                                第5回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」②ストリームデータ処理基盤が開く新たな世界 | gihyo.jp
                              • データレイクとストリームデータ処理を理解する

                                はじめに 前回は、DX時代のデータ活用のトレンドと3大クラウドベンダのデータ活用サービスの概要を説明した。 今回のテーマであるIoTデバイスやWebアプリケーションが生成するストリームデータの処理は、従来型のデータウェアハウス(Data Warehouse)とは大きく異なる特性がある。そこで今回は、各社のクラウド・サービスを理解し、比較するための基礎知識として、以下の項目を説明する。 データウェアハウスとデータレイク(Data Lake)の違いバッチ処理とストリームデータ処理の違いデータ分析で知っておきたいこと データウェアハウス、データレイクとは何か データ活用と聞いてデータウェアハウスやビジネスインテリジェンスツールを思い浮かべる人も多いだろう。また近年はデータレイクという用語も登場している。特に、データウェアハウスとデータレイクは大きく異なるものなので、注意したい。 データウェアハウ

                                  データレイクとストリームデータ処理を理解する
                                • 大量の実世界データから「今」を分析する ― ストリームデータ処理の可能性

                                  EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

                                    大量の実世界データから「今」を分析する ― ストリームデータ処理の可能性
                                  • スキーマつきストリーム データ処理基盤、 Confluent Platformとは?

                                    2. アジェンダ 1. Kafkaを組織で使うと何が困る? 2. Confluent Platformとは? 3. どんな構成になっているの? 4. どうスキーマを定義できる? 5. まとめ:導入するとどう使えるの? 1

                                      スキーマつきストリーム データ処理基盤、 Confluent Platformとは?
                                    • バッチ処理とストリームデータ処理を併せ持つ技術を発表 富士通研究所

                                      富士通研究所は11月19日、データのバッチ処理とストリームデータ処理を併せ持つビッグデータ関連の要素技術を開発したことを発表した。気象データ解析などの分野に応用するほか、製品として実用化していくとしている。 同社の新技術は、従来の大量バッチ処理とストリームデータ処理の「いいとこどり」(富士通研究所 ソフトウェアシステム研究所 インテリジェントテクノロジ研究部 稲越宏弥主任研究員)を行ったものだという。バッチ処理は長い期間で大量のデータを分析できるが、負荷がかかるためデータの更新頻度は低い。一方、ストリームデータ処理は、ほぼリアルタイムでデータ収集するため更新頻度は高いものの、集計期間が短いという課題があった。こうした状況に対し富士通研究所では、双方を融合し、集計期間が長く更新頻度の高いデータ分析技術を開発した。 具体的には、入力されるストリームデータの中から必要な項目だけを特定し、無駄なく

                                        バッチ処理とストリームデータ処理を併せ持つ技術を発表 富士通研究所
                                      • 富士通、ストリームデータ処理基盤「Stream Data Utilizer」で自動車ビッグデータの活用を加速

                                          富士通、ストリームデータ処理基盤「Stream Data Utilizer」で自動車ビッグデータの活用を加速
                                        • ひたちはじめて物語―ストリームデータ処理の巻

                                          「ああ、動画のストリーム配信ね。いやー、こないだなんて、ついつい徹夜でガンダム全話見ちゃって、次の日午前半休しちゃったよ、アハハ」 ……喝っ!!!! DB Onlineの読者たるもの、そんなことではいけません! いや、徹夜で動画見まくって午前半休というのは、まったくもって問題ない(注:あくまでも筆者の個人的価値観に基づく)。しかし、データベース技術者たるもの、「ストリーム」といえば動画配信ではなく、むしろあっちの方のストリームをとっさに連想してほしいのです。そう、「あっち」といえば、あっちですよ、最近ビッグデータ周りで話題になってる、あっちの方のストリームですよ……。 ストリームデータ処理ってそもそも何ができるものなの? というわけで今回は、現在日立が取り組んでいるストリーム、正確に言うと「ストリームデータ処理技術」について、同社の専門家の人たちにあれやこれや聞いてみた。 正直に言うと、筆

                                            ひたちはじめて物語―ストリームデータ処理の巻
                                          • リアルタイムにビッグデータを処理する「ストリームデータ処理」勉強会|IT勉強会・イベントならTECH PLAY[テックプレイ]

                                            イベント内容 05/26(火)、06/02(火)の勉強会がお申込み多数のため、07/07(火)に同じ内容で開催することに致しました! ストリームデータ処理とは ・従来のHadoopに代表されるビッグデータ処理は、データを一定期間(例えば1日)蓄積し、それを高速にバッチ処理することで行っていました。 ・しかし、スマートデバイスやIoTの普及により、データ量がさらに増加している状況の中で、よりリアルタイムにデータを処理したいというニーズが高まっています。 ・「ストリームデータ処理」は、大量に発生するデータを、発生したタイミングで逐次リアルタイムで処理するデータ処理技術です。 (似たような方式として、Apache Sparkなどを使った方法がありますが、これはバッチ処理の単位を小さくし実行頻度を上げるというアプローチです。「ストリームデータ処理」はデータが発生した都度、1件ごとに処理します。)

                                              リアルタイムにビッグデータを処理する「ストリームデータ処理」勉強会|IT勉強会・イベントならTECH PLAY[テックプレイ]
                                            • 【速報】ストリームデータ処理サービス Amazon Kinesis Analytics が発表されました! #reinvent | DevelopersIO

                                              ウィスキー、シガー、パイプをこよなく愛する大栗です。 re:Invent 2015の2日目のkeynoteでストリームデータ処理サービスが提供されたのでご紹介します。 Amazon Kinesis Analytics Amazon Kinesis AnalyticsはKinesisのストリームデータをタイムウィンドウで分析をSQL使って行えます。同様のストリーミングデータ処理というと、NorikraやPipelineDBがあります。今回の発表によりリアルタイム分析が行えるようになりました。 簡単に標準SQLとのストリーミングデータを分析できます Kinesis Analyticsからデータ・ストリームに接続します データ・ストリームに対して標準のSQLクエリを実行します Kinesis Analyticsはツールで分析処理をするためにデータを送信できます。アラートを作成したりリアルタイムで

                                                【速報】ストリームデータ処理サービス Amazon Kinesis Analytics が発表されました! #reinvent | DevelopersIO
                                              • 大量データ(ビッグデータ)分散処理【Hadoop、バッチジョブ分散処理、ストリームデータ処理】:ソフトウェア:日立

                                                大量データ(ビッグデータ)を短時間/リアルタイムに処理することで新しい価値を創造し、ビジネスを拡大。Hadoop、バッチジョブ分散処理、ストリームデータ処理などの新しい技術を適用したシステムの企画、実証実験~システム構築、本番運用をトータルに支援します。

                                                • ストリームデータ処理技術勉強会 (2017/08/04 19:00〜)

                                                  お知らせ 2024年9月1日よりconnpassサービスサイトへのスクレイピングを禁止とし、利用規約に禁止事項として明記します。 9月1日以降のconnpassの情報取得につきましては イベントサーチAPI の利用をご検討ください。 お知らせ connpassではさらなる価値のあるデータを提供するため、イベントサーチAPIの提供方法の見直しを決定しました。2024年5月23日(木)より 「企業・法人」「コミュニティ及び個人」向けの2プランを提供開始いたします。ご利用にあたっては利用申請及び審査がございます。詳細はヘルプページをご確認ください。

                                                    ストリームデータ処理技術勉強会 (2017/08/04 19:00〜)
                                                  • ストリームデータ処理とは?リアルタイムデータ処理で広がるビジネスモデル

                                                    インテリジェントモデルが提供する大規模バッチ処理及び超高速開発ツール「ODIP(オーディップ)」では、ストリームデータ処理の実行環境を包括的に提供しています。 最近よく耳にしますよね、この“ストリームデータ処理”という言葉。 特にビッグデータ時代と言われている現代ビジネスでは、各社ストリームデータ処理技術の導入が課題となっていることも多いでしょう。 リアルタイム処理と同一視されることもあるこのストリームデータ処理ですが、一体どんな技術なのか? 今回はここに焦点を当てて解説していきたいと思います。 そもそもストリームデータとは 一般的にストリームデータの特性として、以下の3つが挙げられます。 急速にデータが生成され、絶えず流れている データが無制限に発生し続けている 時間の経過によりデータ性質・傾向・価値が変動している つまりストリームデータとは無限に増え続けるデータであり、昨今注目されてい

                                                      ストリームデータ処理とは?リアルタイムデータ処理で広がるビジネスモデル
                                                    • スキーマつきストリームデータ処理基盤、Confluent Platformとは? by ペンギン愛好家 さん - niconare

                                                      #hcj2016 Hadoop / Spark Conference Japan 2016のLT資料

                                                        スキーマつきストリームデータ処理基盤、Confluent Platformとは? by ペンギン愛好家 さん - niconare
                                                      • ストリームデータ処理技術勉強会 - 資料一覧 - connpass

                                                        終了 2017/08/04(金) 19:00〜 ストリームデータ処理技術勉強会 Kafka、NiFiなどについての動向、利用にあたっての勘所などを共有します kkitase 他 東京都渋谷区渋谷2-21-1 渋谷ヒカリエ17F

                                                          ストリームデータ処理技術勉強会 - 資料一覧 - connpass
                                                        • 進展するストリームデータ処理

                                                          東京証券取引所は、今年の2月28日から、TOPIXなど株価指数について、現行の1 秒ごとの配信サービスに加えて、ミリ秒レベルで構成銘柄の値段を更新し、配信する「指数高速配信サービス」を開始した。相場の変化が指数に反映される時間が、1秒から10ミリ秒と100 分の1に短縮されることとなったという。 10ミリ秒といわれても、なぜそこまで株価指数をすぐに更新しなくてはいけないのか、ピンと来ない方もいらっしゃるかもしれない。これは、近年、特に大口の機関投資家あるいは外国人投資家による株取引は、細かく設定された指数のしきい値のルールによって、瞬時にかつ自動的に取引を実行するアルゴリズム取引が主となっていることによる。この場合、取引の成否は、証券取引所が提供する指数情報のリアルタイム性にかなり依存することになる。こうした投資家側からの性能的に厳しい要望に答えないと、証券取引所は、そっぽを向かれてしまう

                                                          • 大量データや新社会インフラを支える注目の技術「ストリームデータ処理」とは?

                                                            EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

                                                              大量データや新社会インフラを支える注目の技術「ストリームデータ処理」とは?
                                                            • Apache Spark を実行しているAmazon Kinesis Data Firehose と Amazon EMR によるダウンストリームデータ処理の最適化 | Amazon Web Services

                                                              Amazon Web Services ブログ Apache Spark を実行しているAmazon Kinesis Data Firehose と Amazon EMR によるダウンストリームデータ処理の最適化 増え続けるデータを処理し、新しいデータソースを取り込むことは、多くの組織にとって大きな課題となっています。  多くの場合、AWS のお客様は接続中のさまざまなデバイスやセンサーからメッセージを受け取っていますが、それらを詳しく分析する前に、効率的に取り込み、処理する必要があります。  結果として、あらゆる種類のデータが行き着くソリューションが Amazon S3 となるのは当然と言えるでしょう。  ただし、データが Amazon S3 に格納される方法によって、ダウンストリームデータ処理の効率とコストに大きな違いが生じる可能性があります。  具体的に言うと、Apache Spar

                                                                Apache Spark を実行しているAmazon Kinesis Data Firehose と Amazon EMR によるダウンストリームデータ処理の最適化 | Amazon Web Services
                                                              • 第5回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」②ストリームデータ処理基盤が開く新たな世界:機能と技術からわかる!システム基盤の実力|gihyo.jp … 技術評論社

                                                                前回説明したように,ストリームデータ処理技術とは,無限に到来する時刻順のデータ(ストリームデータ)をリアルタイムに処理するデータ処理方法です。このストリームデータ処理技術を採用したのが,日立のストリームデータ処理基盤「uCosminexus Stream Data Platform」です。 今回は,uCosminexus Stream Data Platformを適用したストリームデータ処理のモデルをいくつか紹介しましょう。 ITシステムの稼働監視 コスト削減や効率化が求められるITシステムでは,仮想化やクラウドの採用が加速しています。一方,システム構成の大規模化・複雑化によりITシステムの稼動状況が見えなくなってきており,障害検知・対策に時間を要してしまい保守効率の向上が課題となっています。 大規模化・複雑化したITシステムの保守効率を向上するためには,ITシステムが出力する膨大なログ情

                                                                  第5回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」②ストリームデータ処理基盤が開く新たな世界:機能と技術からわかる!システム基盤の実力|gihyo.jp … 技術評論社
                                                                • SPL言語学習なしでもストリームデータ処理の実装が可能になった「InfoSphere Streams V3.0」

                                                                  SPL言語学習なしでもストリームデータ処理の実装が可能になった「InfoSphere Streams V3.0」:ストリームデータ/ビッグデータ分析を身近に センサネットワークなどから送出されるストリームデータの分析がより身近に。IBMは専用言語スキルがなくても機能を組み合わせて分析プラットフォームを実装可能にする製品を発表した。 日本IBMは2012年11月19日、IBM InfoSphere Streams V3.0を発表した。価格は444万円~(税別)。従来より約40%低料金になっているという。 IBM InfoSphere Streamsは、ストリームデータをリアルタイムで処理するためのソフトウェア。道路交通情報や各種センサネットワークからの情報など、大量の端末から高い頻度で送出されるデータを処理するのに適している。 IBM InfoSphere Streamsは、専用のストリーム

                                                                    SPL言語学習なしでもストリームデータ処理の実装が可能になった「InfoSphere Streams V3.0」
                                                                  • スキーマつきストリーム データ処理基盤、 Confluent Platformとは?

                                                                    Gearpump, akka based Distributed Reactive Realtime EngineSotaro Kimura

                                                                      スキーマつきストリーム データ処理基盤、 Confluent Platformとは?
                                                                    • Kafka+Storm+Elasticsearch+Kibanaでストリームデータ処理の可視化を行ってみた - Taste of Tech Topics

                                                                      こんにちは。kimukimuです。 AWS re:Invent 2013 で Amazon Kinesis が発表されるなど、 ストリームデータ処理に対するニーズの高まりを感じますね。 (Amazon Kinesis は、Stormとも連携できるようになっているようです)。 さて、先日、Storm 0.9.0 が正式リリースされたり、Apache Kafka 0.8.0 が正式リリースされたりしたので、 それらを連携して、ストリームデータの可視化を行うプロトタイプを作ってみました。 1. はじめに まず、「ストリームデータ」とは、連続的に発生し続けるデータのことを指します。 システムが出力するログやセンサーが発生するデータ、SNSなどで常時発生するメッセージなどが該当します。 今回は、Apacheが出力するログを、ストリームデータとして収集・可視化することを行ってみます。 1-1.やりたい

                                                                        Kafka+Storm+Elasticsearch+Kibanaでストリームデータ処理の可視化を行ってみた - Taste of Tech Topics
                                                                      • 富士通、自動車ビッグデータの分析を支援するストリームデータ処理基盤「Stream Data Utilizer」を提供開始 | IoT NEWS

                                                                        2021-08-262019-10-09 富士通、自動車ビッグデータの分析を支援するストリームデータ処理基盤「Stream Data Utilizer」を提供開始 2020年以降、コネクテッドカーは増え続け、走るセンサーである車両から集まった画像やCANデータといった自動車ビッグデータは、自動車の開発のほか、交通監視や地図、保険といった様々なモビリティサービスへ活用の広がりを見せると期待されている。 一方で、これらの自動車ビッグデータを分析するためのシステムは、提供するサービスごとにサイロ化し、開発機能やシステムリソースが重複しており、各種サービスを柔軟に効率良く実現できるシステムが必要となっている。 そこで、富士通株式会社は、コネクテッドカーから収集される自動車ビッグデータを活用してサービスを提供する事業者向けにストリームデータ処理基盤「FUJITSU Future Mobility A

                                                                          富士通、自動車ビッグデータの分析を支援するストリームデータ処理基盤「Stream Data Utilizer」を提供開始 | IoT NEWS
                                                                        • 『第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp』へのコメント

                                                                          テクノロジー 第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp

                                                                            『第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp』へのコメント
                                                                          • uCosminexus SDPで実現するストリームデータ処理--8つの適用事例

                                                                            印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます インターネット技術を活用した電子取引や電子マネー、ICカードの普及、RFIDによる物流管理、センサ技術の発展などにより、実世界の情報が爆発的に増大している。こうしたデータは、データベース管理システム(DBMS)を中核とした従来型のITインフラでは対応することが困難であり、大量のデータを高速に処理するための新しい技術が求められている。 日立製作所 IT基盤ソフトウェア本部 第2基盤ソフト設計部 主任技師の田村和則氏は、「ITインフラを抜本的に改革することが必要。大量データを高速かつリアルタイムに処理できるストリームデータ処理技術など新しい技術が注目されており、既存の技術と組み合わせ、適材適所で利用することで新たな価値を生み出すことが必要だ

                                                                              uCosminexus SDPで実現するストリームデータ処理--8つの適用事例
                                                                            • 自動車ビッグデータの活用を加速するストリームデータ処理基盤「Stream Data Utilizer」を提供開始 : 富士通

                                                                              English PRESS RELEASE 2019年10月8日 富士通株式会社 自動車ビッグデータの活用を加速するストリームデータ処理基盤 「Stream Data Utilizer」を提供開始 当社は、コネクテッドカーから収集される自動車ビッグデータを活用してサービスを提供する事業者向けにストリームデータ処理基盤「FUJITSU Future Mobility Accelerator Stream Data Utilizer」(以下、「Stream Data Utilizer」、ストリームデータユーティライザー)を10月8日より提供開始します。 「Stream Data Utilizer」は、株式会社富士通研究所(注1)が開発した、データ処理を継続しながら処理内容の追加・変更を実行できるストリームデータ処理技術「Dracena(ドラセナ)」を実装し、簡単かつ効率的な自動車ビッグデータの

                                                                                自動車ビッグデータの活用を加速するストリームデータ処理基盤「Stream Data Utilizer」を提供開始 : 富士通
                                                                              • Apache NiFi, Storm, Kafkaを利用して、ストリームデータ処理を体験してみよう (2017/05/30 18:30〜)

                                                                                はじめに Future Of Data 〜データの未来を考えよう〜 は、世界39都市で、ビッグデータ関連のミートアップを行うグローバルコミュニティです。日本でも日本語によるデータの利活用に関する情報発信、情報共有を行い、データエンジニアリング、データサイエンスの普及および人材育成に貢献すべく行動を開始しました! 今回は、Hortonworks Japan主催によるデータフロー管理ソフトウェア「Hortonworks DataFlow」を使ったハンズオンを開催したいと思います。 日時 2017/5/30(火)18:30 - 21:00 受付: 18:00 場所 品川産業支援交流施設 SHIP 第1会議室 東京都品川区北品川5-5-15 大崎ブライトコア4階 参加費 無料 (抽選制) 注意 プログラム内容は予告なく変更する可能性があります。 受付票と名刺をお持ち下さい。受付票に記載の本人のみが

                                                                                  Apache NiFi, Storm, Kafkaを利用して、ストリームデータ処理を体験してみよう (2017/05/30 18:30〜)
                                                                                • 「HiRDB」最新版--インメモリに対応、ストリームデータ処理を採用

                                                                                  印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 日立製作所は2月25日、データベース(DB)の最新版「HiRDB Version 9」の販売を開始した。価格は189万円から、4月28日から出荷する。前版から4年ぶりのメジャーバージョンアップとなる。 HiRDB Version 9は、DBエンジンの「HiRDB Server」とDBサーバのオプションである「HiRDB Accelerator」でインメモリ処理をサポートする。ネットオークションなど商品情報テーブルに対して高頻度のDBアクセスが集中するような運用でのDB処理性能を、既存製品と比べて約3倍から約30倍に向上させている。 インメモリDBと従来のディスクDBの併用も可能だ。高頻度アクセスが集中するDBのテーブルはメモリ上で処理し

                                                                                    「HiRDB」最新版--インメモリに対応、ストリームデータ処理を採用