PythonのPipelineパッケージ比較：Airflow, Luigi, Gokart, Metaflow, Kedro, PipelineX - Qiita
PythonのPipelineパッケージ比較：Airflow, Luigi, Gokart, Metaflow, Kedro, PipelineXPythonワークフローデータサイエンスPipelineETL この記事では、Open-sourceのPipeline/Workflow開発用PythonパッケージのAirflow, Luigi, Gokart, Metaflow, Kedro, PipelineXを比較します。 この記事では、"Pipeline"、"Workflow"、"DAG"の単語はほぼ同じ意味で使用しています。 要約 👍: 良い 👍👍: より良い 2015年にAirbnb社からリリースされました。 Airflowは、Pythonコード（独立したPythonモジュール）でDAGを定義します。 （オプションとして、非公式の dag-factory 等を使用して、YAML
社内マーケター向けの機械学習プラットフォームを作りました - 一休.com Developers Blog
はじめに こんにちは。データサイエンス部の平田です。 一休でのデータ分析はJupyter NotebookやJupyter Labを用いてDWHにアクセスして行われることが多いですが、サービスそのものと分析環境が乖離していることにより、分析結果を継続的にサービスに取り込むのが難しい状況でした。 また、マーケティング部の方々がJupyterを使用して分析した結果に基づいて継続的に施策を行おうとしても、Airflowに組み込む際のエンジニアの負担はそこそこありますし、修正するたびに依頼をしなければならないなどコミュニケーションコストも発生します。 さらに、マーケティングに機械学習を取り入れたい場合でもairflow側で全部やってしまうと密結合になってしまいます。 そこで、Airflowから別の場所にあるJupyterを直接実行することによりエンジニアの負担は最小限にとどめ、自由に施策を打てるよ
一休のETL処理をAirflowで再構築しました - 一休.com Developers Blog
一休のデータサイエンス部に所属しています小島です。 以前データ分析基盤の構築で記事を上げていましたが、今回はETL*1周りの話をしようと思います。 user-first.ikyu.co.jp 今回ETLのツールとして導入したのはAirflowというツールです。 2017年のアドベントカレンダーでも紹介させていただきました。 一休のデータフローをAirflowを使って実行してみる 一休のETLの現状について 一休のETL周りは以下の画像のようになっていました。 課題 ETLの処理時間が伸びた（出社後も処理が続いていた） エラーのリカバリ作業に時間がかかる（ログが確認しにくい, サーバーに入って作業しなければいけない） 複雑な依存関係の定義がしにくい（どれとどれが依存しているかわからない） リソース負荷（全て並列で実行していた） 処理毎のボトルネックが把握できない ツールの問題というよりは正し
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
VagrantでApache AirflowとMariaDBをインストールした仮想マシン(CentOS7.5)を構築する
VagrantでApache AirflowとMariaDBをインストールした仮想マシン(Ubuntu18.04)を構築する
VagrantでApache AirflowとMariaDBをインストールした仮想マシン(Ubuntu16.04)を構築する
VagrantでApache AirflowとMariaDBをインストールした仮想マシン(Debian Stretch/9.5)を構築する
VagrantでApache AirflowとPostgreSQLをインストールした仮想マシン(CentOS7.5)を構築する
VagrantでApache AirflowとPostgreSQLをインストールした仮想マシン(Ubuntu18.04)を構築する
VagrantでApache AirflowとPostgreSQLをインストールした仮想マシン(Ubuntu16.04)を構築する
VagrantでApache AirflowとPostgreSQLをインストールした仮想マシン(Debian Stretch/9.5)を構築する
VagrantでApache AirflowとMySQLをインストールした仮想マシン(Ubuntu18.04)を構築する
VagrantでApache AirflowとMySQLをインストールした仮想マシン(Debian Stretch/9.4)を構築する