Azure Container Apps Jobsで非同期ジョブ型アプリケーションをデプロイする | CyberAgent Developers Blog

はじめに こんにちは。MIU AI戦略本部でAIエンジニアをしている田中宏樹です。 LLMを活用したアプリケーションでは、長時間の思考を必要とするタスクが複数組み合わさることで、処理時間が伸びてしまうケースが多くあります。 本記事では、こうした長時間処理を必要とするアプリケーションをAzure上で構築した際に採用したアーキテクチャや工夫点をご紹介します。 対象読者 長い処理時間を要するアプリケーションを作りたい人 非同期ジョブ型アプリケーションをAzureでデプロイしたい人 非同期ジョブの実行に適しているAzureサービスが何かを知りたい人 背景 LLMの長いレスポンスをタブを開いたまま待ちたくない 私が所属するチームではAIの技術調査の一環として、超長尺の文章作成を行うWebアプリケーションを開発しています。 このアプリケーションはNext.jsで構築されており、ブラウザからServer