Data Flowに関するfawのブックマーク (19)

  • 2010-12-26

    リアクティブプログラミングは、「時間とともに変化する値」=「振る舞い」同士の関係性を記述することでプログラミングを行うパラダイムです。 GUIなどのようにインタラクティブなシステムや、シミュレーションやアニメーションのようにダイナミックに状態が変化するようなシステムを宣言的に記述することができます。 これらの「変化する状態」や「外部とのやりとり」が支配的なシステムは、純粋関数型言語が、その強みを発揮しにくい部分でもあります。 稿では、リアクティブプログラミングが副作用を含む系を宣言的に記述することを可能にし、状態の管理という厄介な問題からプログラマを開放する可能性があることを示したいと思います。 (割と独自研究に基づく解釈ばかりなのでその点ご了承ください。あと例としてでてくるコードは、Pythonベースの擬似コードで具体的なライブラリに基づくものではありません。) Why Reactiv

    2010-12-26
    faw
    faw 2010/12/26
  • マイクロソフトのHadoop対抗技術「Dryad」、いよいよ始動か?

    大規模分散処理のフレームワークとしてグーグルが開発したMapReduce処理や、そのオープンソース実装であるHadoopが急成長し、ビジネスの分野での商業利用が立ち上がり始めていることは、Publickeyでも何度か記事で紹介してきました。 Hadoopを表計算のように使える「InfoSphere BigInsights」、IBMが発表 グーグルによるMapReduceサービス「BigQuery」が登場。SQLライクな命令で大規模データ操作 Hadoopは企業のための新たな情報分析プラットフォームとなる、とCloudera グーグルがBigQueryの開始を発表し、IBMも大規模処理のエンジンとしてHadoopを採用、AmazonクラウドでもHadoop処理を行う「Amazon Elastic MapReduce」サービスを提供していることから分かるように、Hadoopはクラウドでの大規模

    マイクロソフトのHadoop対抗技術「Dryad」、いよいよ始動か?
    faw
    faw 2010/07/15
    Map Reduce VertexをEdgeでつなぐ
  • 第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp

    機能と技術からわかる!システム基盤の実力 第4回とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? 近年、電子マネーや電子商取引が普及し、RFID利用による物流管理など、ビジネスで扱うデータの量が爆発的に増加しています。またビジネスのスピードも急激に加速しており、次々に流れてくる大量のデータをリアルタイムに処理することが求められています。 しかし、こうしたリアルタイム処理に従来からあるデータベースを使用すると、クエリなどを用いて蓄積されたデータを一括処理するため、データ検索などのクエリ実行時にタイムラグが生じてしまいます。そこで、現在注目されているのが、ストリームデータ処理技術です。 ストリームデータ処理技術とは、無限に到来する時刻順のデータ(ストリームデータ)をリアルタイムに処理するデータ処理方法です。たとえば、株価のテクニカル指標やランキング

    第4回 とぎれなく流れ来る大量データを処理する「ストリームデータ処理技術」①ストリームデータ処理とは? | gihyo.jp
    faw
    faw 2010/06/25
    Stream ストリーム CSP
  • やさしいFunctional reactive programming(概要編) - maoeのブログ

    あと、やはりネットワーク周りなどI/Oの多いプログラムの書きにくさが課題になっている印象。関数的なI/OはFRPで解決できそうな気がするんだけど調べてない。そろそろFRPをちゃんと理解したいなー。 Parsec 3活用事例: Keepalived構文チェッカ - maoeのブログ なんて書いてから早1ヶ月半、ようやくFRPが掴めてきたのでわかったことをまとめてみます。 Reactive programmingって何? FRPの前に、一般的にwikipedia:en:Reactive programmingと呼ばれるパラダイムについて触れておきます。reactive programmingとは疑似言語を使ってかなーり大雑把に説明すると、 var a = 1 var b = a + 1 a = 10 // aを書き換える print b // => 11print bの出力は2ではなく11です

    やさしいFunctional reactive programming(概要編) - maoeのブログ
    faw
    faw 2010/02/22
    FRP Functional Reactive programming
  • Waveboard - Google Wave Client for iPhone and Mac

    Waveboard - Google Wave Client for iPhone and Mac Waveboard Mac Waveboard for Mac is the perfect client software for Google Wave. It adds missing features to the service like notifications about changes as you are used to from email, printing and saving waves, common Mac keystrokes and many more. Download Waveboard for Mac Purchase Waveboard for Mac Waveboard iPhone The iPhone app of Waveboard giv

    faw
    faw 2009/10/27
    google wave client
  • Hadoopで、かんたん分散処理 (Yahoo! JAPAN Tech Blog)

    ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは、地域サービス事業部の吉田一星です。 今回は、Hadoopについて、Yahoo! JAPANでの実際の使用例を交えながら書きたいと思います。Hadoopとは、大量のデータを手軽に複数のマシンに分散して処理できるオープンソースのプラットフォームです。 複数のマシンへの分散処理は、プロセス間通信や、障害時への対応などを考えなければならず、プログラマにとって敷居が高いものですが、 Hadoopはそういった面倒くさい分散処理を一手に引き受けてくれます。 1台では処理にかなり時間がかかるような大量のデータも、複数マシンに分散させることで、驚くべきスピードで処理を行うことができます。 例えば、今まで1台でやっていた、あるログ集計処理

    Hadoopで、かんたん分散処理 (Yahoo! JAPAN Tech Blog)
    faw
    faw 2009/03/04
    Map Reduce Shuffle
  • 楽天版MapReduce・HadoopはRubyを活用 - @IT

    2008/12/01 楽天は11月29日、東京・品川の社で開催した技術系イベント「楽天テクノロジーカンファレンス2008」において、近い将来に同社のEコマースサービス「楽天市場」を支える計画があるRubyベースの大規模分散処理技術「ROMA」(ローマ)と「fairy」(フェアリー)について、その概要を明らかにした。 レコメンデーションの処理自体はシンプル 楽天市場では現在、2600万点の商品を取り扱い、4200万人の会員に対してサービスを提供している。この規模の会員数・商品点数でレコメンデーション(商品の推薦)を行うのは容易ではない。 ※記事初出時に楽天市場の会員数を4800万人としてありましたが、これは楽天グループのサービス利用者全体の数字でした。楽天市場の会員数は正しくは4200万人とのことです。お詫びして訂正いたします。 レコメンデーションの仕組みとして同社は、一般的でシンプルなア

    faw
    faw 2008/12/02
    データフロー
  • MapReduce - naoyaのはてなダイアリー

    "MapReduce" は Google のバックエンドで利用されている並列計算システムです。検索エンジンのインデックス作成をはじめとする、大規模な入力データに対するバッチ処理を想定して作られたシステムです。 MapReduce の面白いところは、map() と reduce() という二つの関数の組み合わせを定義するだけで、大規模データに対する様々な計算問題を解決することができる点です。 MapReduce の計算モデル map() にはその計算問題のデータとしての key-value ペアが次々に渡ってきます。map() では key-value 値のペアを異なる複数の key-value ペアに変換します。reduce() には、map() で作った key-value ペアを同一の key で束ねたものが順番に渡ってきます。その key-values ペアを任意の形式に変換すること

    MapReduce - naoyaのはてなダイアリー
  • Skynet−新しいRubyのMapReduce

    データ処理を分散させるMapReduce設計パターン(source)が2004年にGoogleによって導入され、それにはC++の実装がついてきた。今では、Adam Pisoni氏(サイト・英語)がSkynet(サイト・英語)という名称でリリースした新しいRubyでの実装版が利用可能だ。 Skynetは順応性があり、自動アップグレード機能付きで耐障害性の完全分散型システムで、単一障害点は皆無です。 GoogleのデザインペーパーとSkynetには著しく重要な相違点が2つある。 Skynetが生コードをワーカーに送れないこと。 Skynetはピア・リカバリシステムを利用しており、ワーカーがお互いを監視していること(サイト・英語)。 理由が何であれワーカーが故障する、あるいは機能しなくなると、別のワーカーが気付いて、そのタスクを引き継ぎます。また、Skynetには特別な「マスター」サーバは存在せ

    Skynet−新しいRubyのMapReduce
  • センサー技術の最先端:『マトリックス』の仮想世界が現実に | WIRED VISION

    センサー技術の最先端:『マトリックス』の仮想世界が現実に 2008年1月24日 IT コメント: トラックバック (0) Alexis Madrigal 映画『マトリックス』3部作は、データ視覚化への長い賛歌だった。よく知られているように、この映画の前提は、「人生とは洗練されたシミュレーションであり、文明全体が仮想現実である」というものだ。 少数の筋金入りのマトリックス・ファン(きっと存在すると思う)を除いて、この前提が現実世界の真の姿だ、と気で考えている人はいない。しかし、映画において仮想世界を構築していたデータセットに相当するものを、われわれは新しいセンサー技術を使って作り出せるかもしれない。 特定の環境データの収集を通じ、世界を可視化するという現在の取り組み――交通の流れを示す地図やリアルタイムの気温マップなど――が、今後数年でさまざま分野に一気に広がるだろう。 エネルギー業界は、

  • NEC、数万件/秒の大量データを即時処理可能なミドルウェアを発売 | エンタープライズ | マイコミジャーナル

    NEC 執行役員 富山卓二氏 NECは、大量のイベント情報をリアルタイムに処理するミドルウェア、「WebOTX Parallel Stream Monitor」「InfoFrame Table Access Method」を発売した。サービスの多様化、ユビキタス環境の浸透によるトラフック増大と、電子商取引のいっそうの進展、企業間連携の増加などにより、膨大なデータの即時要求処理への需要が高まると同社ではみており、新製品ではこのような需要に応える。同社は今回、高速な並列データ処理を実現するシステムアーキテクチャーを開発しており、新製品はこれに基づき、数万件/秒のオンライン処理性能を実現している。 従来のデータ処理手法として代表的なのは、一旦情報を蓄積しておいて、一括処理するバッチ処理方式と、随時発生する情報を、その都度処理していくオンラインリアルタイム方式だが、同社では、この2方式では、大量デ

    faw
    faw 2007/09/27
    データフロー型、なのかな
  • ホワット・ア・ワンダフル・ワールド Inferno のチャネルシステム

    今までのところは,Java とかと対して変わらないところだったんだけど,limbo の丸は,Channel によってマルチプロセス・スレッドプログラムが簡単に書けるというところ.そもそも Inferno は,Concurrent Programming Language なので. とりあえず,参考になりそうなリンク. Limbo Tips / 子プロセスを待つ RIT 講義資料 / Inferno / code / の,demo.b とか ここからは,文法も概念も,既存の C とか Java とかとはガラリと変わってくるので,まずはマニュアルを読んでみよう. The Limbo Programming Language --- Dennis M. Ritchie を勝手に翻訳 (僕の場合,一度直訳した後,日語の形式に合わせて整形するので,意訳かも) 4.2.5 Channel Type

    faw
    faw 2007/06/26
    InfernoとCSP
  • @IT Special ネクストSOAのITパラダイム リアルタイムなイベント駆動型ビジネスを実現する「イベントストリーム処理」

    ストックのデータからフローのイベントへ――ビジネスのリアルタイム化にともなって、新しいIT活用モデルが徐々に浸透し始めてきた。「Progress Apama」が実現する“イベントストリーム処理(Event Stream Processing:ESP)”が、この変化をリードしている。 業務プロセスの中で発生する「イベント」によって駆動するシステムアーキテクチャを「EDA(Event Driven Architecture=イベント駆動型アーキテクチャ)」と呼ぶ。このEDAを実現するテクノロジとして期待されているのが、イベントストリーム処理だ。これとほぼ同義のものとして、「CEP(Complex Event Processing=複合イベント処理)」がある。これは、米ガートナーがEDAとともに提唱し始めた次世代のコンピューティングモデルである。 ここに、はるか以前からイベント処理に注目していた

  • Esper

    Where Complex Event Processing meets Open Source: Esper & NEsper Make no compromise on enterprise readiness: discover EsperHA, EsperJDBC and our support services. Embed mainstream CEP in your products and deployments: Learn about our licensing options. Event Stream Intelligence with Esper and NEsper Esper is a component for CEP and ESP applications, available for Java as Esper, and for .NET as

  • CEP (Complex Event Processing) - RFID A GoGo!

    (今回の記事はシステム開発の知識を持つ人向けです。ご容赦ください) RFID Journalのメルマガを読んでいるとExpert View欄にComplex Event Processingという概念についての記事が載っていた(Complex Event Processing and RFID)。耳にした記憶のある概念だったので過去記事を検索してみると、2年半前に同じExpert View欄に記事が載っており(Separating Wheat from Chaff)、面白い記事だと思って読んだ記憶が蘇ってきた。当時の記事にはEPCglobalに担当するSoftware Action Groupができて標準化作業を始めたとあるのだが今回の記事にはその後の進展をうかがわせる記述は無い。当時は慌しくて読み飛ばしてしまった記事なので調べなおしてみることにした。 Googleで"Complex Ev

    CEP (Complex Event Processing) - RFID A GoGo!
  • 檜山正幸のキマイラ飼育記 - JavaScriptで学ぶ・プログラマのためのラムダ計算

    JavaScriptによるテンプレート・モナド、すっげー簡単!」にて: 紙と鉛筆でラムダ計算を実行できることは必要だな、やっぱり。 なんて強調したので、ラムダ計算の入門、いってみよう。 [追記]練習問題集を追加しました。説明を読みながら、あるいは読んだ後で是非やってみてください。→「JavaScriptで学ぶ・プログラマのためのラムダ計算 問題集」[/追記] ※印刷のときはサイドバーが消えます。 内容: JavaScriptの関数リテラル ラムダ式ってなんだ ラムダ計算の体系と適用操作 ラムダ式の例をいくつか β変換 -- ラムダ計算のキモ! β変換を何度か実行してみる 中間まとめ、まだ続きがあるよ JavaScriptの関数リテラル 最初に、JavaScriptに関する知識を確認しておきましょう。なお、JavaScriptの対話的実行環境については「もっともお手軽な対話的JavaScr

    檜山正幸のキマイラ飼育記 - JavaScriptで学ぶ・プログラマのためのラムダ計算
  • @IT:ネットワークコラム:Webちらし、国産RSSリーダーのいきさつと人工知能化の野望

    Webちらし、国産RSSリーダーのいきさつと人工知能化の野望:ものになるモノ、ならないモノ(10) 数回にわたり、国内のWeb2.0企業にフォーカスし、その姿を見ていく。第2弾の今回は、国産RSSリーダーのグルコースに国産RSSが生まれた経緯と今後の検索やRSSの姿について話を聞いた (編集部) 連載目次 国産Web 2.0企業を量産しよう 自らが開発したRSSリーダー(参照:「5分でわかるRSS。Web更新情報を効率的に知る技術」)が、NTTレゾナントにgooRSSリーダーとして採用され、そして、その勢いを借りるように、日を代表するWeb 2.0サービスともいえるmixiが新しく開始した「mixiミュージック」に専用ソフトを提供する若い会社、それが今回紹介するグルコースだ。 国立情報学研究所・早稲田大学の学生を中心に運営され、東京・文京区の住宅街に溶け込むようにたたずむガレージ風のワン

    @IT:ネットワークコラム:Webちらし、国産RSSリーダーのいきさつと人工知能化の野望
  • A9.com - OpenSearch Client - Create New Search Feed

    Some features of this page may not work correctly in this browser. This page works best in Firefox, Internet Explorer (5.0 or later), Mozilla, Netscape (7.2 or later) or Safari. Submitting Your Search to A9.com's OpenSearch Client We encourage you to submit your search content as a column on A9.com's OpenSearch Client. If you are a content developer and already have a search engine for your site,

  • List of ICOT Technical Memorandum

  • 1