タグ

pipelineに関するkimutanskのブックマーク (2)

  • Jenkins 2.0 (日本語)

    Amazon ECSとDevOps - SA 岩永亮介(@riywo) JAWS-UGコンテナ支部×JAWS-UG CLI専門支部 #1で発表した資料です

    Jenkins 2.0 (日本語)
    kimutansk
    kimutansk 2016/05/24
    パイプラインの制御する際に「一定間隔でとあるスクリプトをたたいて結果を基にループするか決める」とかってできるんですかね。実際試してみるしかないですか・・・
  • 第9回[最終回] データパイプラインのためのワークフロー管理 | gihyo.jp

    KPIや応用KPIが決まり、実際に、毎日の運用の中で定期的にデータを更新して、可視化するためには、一連の処理を自動化する必要があります。今回は、データパイプラインを扱うためのワークフロー管理ツールを紹介していきます。 データパイプラインとワークフロー管理 データパイプライン (⁠以下、パイプライン)とは、データ処理を行なう小さなタスク(1回のファイルコピーや、SQLの実行など)を順次実行することにより、最終的に求める結果を得るための一連のプロセスを指します。狭義には、単体のシステム内で完結するパイプラインを指します(SparkやGoogle Cloud Dataflow、など⁠)⁠。 また、広義には、複数のシステムを組み合わせて大きなパイプラインを構成することもあります(MySQLから取り出したデータをRedshiftで集計する、など⁠)⁠。今回、取り上げるパイプラインとは、広義のパイ

    第9回[最終回] データパイプラインのためのワークフロー管理 | gihyo.jp
    kimutansk
    kimutansk 2015/12/07
    プロダクト一覧は参考になります。データパイプラインを簡易にGUI定義する・・のはこの先来ないですかねぇ。
  • 1