タグ

batchに関するryuji_gushikenのブックマーク (2)

  • AWS Batchの基本的な機能とユースケースについて #reinvent | DevelopersIO

    バッチ処理 世の中のITシステムのほとんどは、データが発生し、流れて、処理し、蓄積されるジョブの繰り返しです。AWS Batchは、このようなバッチジョブを効率的におこなうための管理サービスです。Pegasus WMS、Cromwell、Luigiといった主要なワークフローエンジンをサポートしています。実際のジョブの実行は、EC2やSpotインスタンスが動的にアサインされて実行されます。 データフロー図(DFD) データフロー図で表現できるようなバッチ業務処理を管理するサービスとイメージしました。。 AWS Batchの基機能 単ジョブの定義 CPU、メモリー、IAM Role、ボリューム、コンテナ、環境変数、等について、ECS上でアプリケーションを実行するために設定します。 ジョブの依存性モデリング 異なるジョブ間での依存関係を設定できます。例えば、3つのステップでデータを圧縮するジョ

    AWS Batchの基本的な機能とユースケースについて #reinvent | DevelopersIO
  • バッチ処理はJavaでバッチリ?その現状とこれから

    Java News.jp(Javaに関する最新ニュース)」の安藤幸央氏が、CoolなプログラミングのためのノウハウやTIPS、筆者の経験などを「Rundown」(駆け足の要点説明)でお届けします。(編集部) バッチ処理の変遷 Javaの登場以来、ホストコンピュータ、専用サーバなどで動いていた数多くのレガシー(既存資産)システムが、Java環境へ移行してきました。Web上のオンラインアプリケーションにおいては、特にJavaの活躍の場が増えたといってもよいでしょう。 その中でも移行が遅れており、旧来のマシン環境、旧来の言語での利用が続いてきたものに「バッチ処理」が挙げられます。 ■そもそも「バッチ処理」とは何か? ここでいうバッチ処理はWindowsのバッチファイル(.bat)を示すのではありません。大量のトランザクションデータを扱い、大量のデータを順次処理することを示します。 また、バッチ

    バッチ処理はJavaでバッチリ?その現状とこれから
  • 1