タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

DataPipelineに関するngyukiのブックマーク (1)

  • AWS Data Pipelineをスケジューラとして使う - Qiita

    AWS Data Pipeline。名前からするとETLやデータの移動のために使われるイメージが強いんだけど、実はCronぽいスケジューラとしても使えるので、ポイントをまとめておく。 方針は単純で、 Data Pipelineをシェルスクリプトを起動するためだけに利用するという感じ。 Data Pipeline、いろいろ覚えることがあって若干めんどくさいところもあるが 個別のサーバーに依存しないスケジューラを使える というのはそれなりに価値があるところだと思う。 処理の定義(アクティビティオブジェクト) Data PipelineのアクティビティにはShellCommandActivityというものがあって、これはOS上で単純にシェルスクリプトを実行してくれる。 Commandというパラメータに直接シェルスクリプトを渡してやればOK。もう少しちゃんと管理したいならScriptUrlというパ

    AWS Data Pipelineをスケジューラとして使う - Qiita
  • 1