AWS Step Functionsを用いた低信頼性処理の提案 - Qiita

概要 時々エラーが発生したりメンテナンスで停止させる必要のある逐次処理に対して、運用負荷の低いリカバリ処理方法を提案する。 課題 動画処理のように処理時間が長くコストの大きな処理フローで、エラー復旧時の再処理のエンジニアオペレーションを簡易にしたい。 課題の背景事情 A処理→B処理→C処理 のような一連の処理フローがあり、数分から数時間と処理時間が長い。これを毎日数百件程度処理を行っている。 フローの特定のプロセスで外部のAPIを叩くのだが、その外部APIは時々エラーになる可能性があり、数時間メンテナンスに入ることがある。また、ベストエフォート運用で深夜休日になんらかの異常で停止した場合、翌営業日の復旧の可能性がある。 このシステムを運用するチームにシステムエンジニアは1名しかいない（つまり自分だ）。隣接システムの障害に24時間対応はしたくない。幸い、隣接システムが復旧するまで、このシステ