タグ

AirFlowとkubernetesに関するshunmatsuのブックマーク (2)

  • Kubernetes の CronJob/Job の仕組みをひもとく - Qiita

    これは リクルートライフスタイル Advent Calendar 2018 の5日目の記事です。 前日 に引き続き CET チーム から、日は @tmshn がお送りします。 はじめに データベースのバックアップを定期的に取る npm audit を定期的に実行する 放置されている issue/pull request を定期的に Slack に通知する などなど、日常の中で何かを定期実行したくなることはよくあります。 そんなとき、素朴なソリューションとして真っ先に思いつくのは、ジョブ用のサーバーを用意してその中で cron を実行するというやり方でしょうか。 でも、Kubernetes(以下 k8s)をお使いなら、CronJob というリソースを使うことができます。 1 K8s CronJob ではコントローラーがスケジュールを管理し、実行ごとに Pod を作成して、終了したらそれを破

    Kubernetes の CronJob/Job の仕組みをひもとく - Qiita
  • Data EngineeringとKubernetes Executorの話 | メルカリエンジニアリング

    Cityカラムが英語表記へ統一 Temperatureカラムは摂氏(℃)へ統一 Dateのカラムは、タイムゾーンをUTCに固定し、YYYY-MM-DDフォーマットへ こうしてDataが整理されてInformationになることで、「最高気温を比較すると、UTC 11月15日の時点ではPalo Altoの方が高かったが、12月5日の時点では東京の方が高かった」といった事実を見ることができるようになります。このInformationから導き出される傾向や規則性を導出されたものが、DIKWピラミッドにおけるKnowledgeになります。そして頂点であるWisdomは、導き出されたKnowledgeに基づいて人により下される判断のことそのものを示します。 Data Engineeringの仕事は、このDataを過不足無く蓄えること、DataからInformationへの変換・蓄積する作業がメインと

    Data EngineeringとKubernetes Executorの話 | メルカリエンジニアリング
  • 1