タグ

digdagに関するphakchi0830のブックマーク (2)

  • DigdagでembulkとBigQueryの黄金コンビがさらに輝く - Qiita

    はじめに CYBIRDエンジニア Advent Calendar 2016、今年も16日目担当の@yuichi_komatsuです。 データ分析エンジニアをしています。 一緒に精進できる仲間も絶賛募集中です! 興味がある方はこちら!! 昨日は@sakamoto_kojiさんの「サブスクリプションのサーバサイド開発で得た知見」でした。 まさに現場で奮闘してきたからこその実用的で貴重なTipsですね! すばらしい!! では題です。 今回のネタ 去年は「embulkとBigQueryが黄金コンビすぎる話」を書きましたが(こちらはコメントを記載する際に誤って削除してしまいました・・・すみません)、 そこに新戦力である Digdagでワークフローを組むことによってembulk、BigQueryコンビが一段とパワーアップする! という話です。 Digdagとは? 穴掘りゲームではありません。 世界

    DigdagでembulkとBigQueryの黄金コンビがさらに輝く - Qiita
    phakchi0830
    phakchi0830 2016/12/19
    “py>: date.SetDate.set_da”
  • Jenkinsの無秩序なジョブをDigdagで再定義する - log.fstn

    jenkins で回してる ci のジョブを digdag で書き直してみたけど、フローがひと目で分かるし、git で管理できるし、並列化も簡単だし最高だ。— Kosuke Adachi (@foostan) October 8, 2016 ということで Jenkins のジョブを Digdag に置き換えて Git で管理すると最高なので、今困っている人はやりましょう。1日あれば多分終わります。 今回試したのは CI のジョブですが、どんなジョブでも応用できると思います。 詳しく こないだ Rebuild 152 聴いていたらその会話の中に「Jenkinsおじさん」ってワードが出てきたんですよ。 rebuild.fm Jenkinsをそれなりの規模で使っている人ならお馴染みだと思うんですが、Jenkinsって自由度が高くてジョブの編集も簡単にできるから気をつけないとジョブがカオスな状態に

    Jenkinsの無秩序なジョブをDigdagで再定義する - log.fstn
  • 1