並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 64件

新着順 人気順

SQSの検索結果1 - 40 件 / 64件

タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。

SQSに関するエントリは64件あります。 awsAWSamazon などが関連タグです。 人気エントリには 『SQSを用いたクレジットカード決済の非同期化 - ZOZO TECH BLOG』などがあります。
  • SQSを用いたクレジットカード決済の非同期化 - ZOZO TECH BLOG

    こんにちは、カート決済部カート決済サービスブロックの林です。普段はZOZOTOWN内のカートや決済の機能開発、保守運用、リプレイスを担当しています。 弊社ではカートや決済機能のリプレイスを進めており、これまでにカート投入のキャパシティコントロールや在庫データのクラウドリフトを実現しています。 techblog.zozo.com techblog.zozo.com 本記事では新たにクレジットカード決済処理を非同期化したリプレイス事例を紹介します。 はじめに 背景・課題 非同期化のシステム構成 パターン1 - 完全非同期化パターン パターン2 - 非同期・同期切り替えパターン パターン3 - ポーリングパターン システム構成の決定 メッセージングサービスの選定 効果 今後の展望 まとめ さいごに はじめに 本章では、非同期化前のZOZOTOWNのクレジットカード決済を用いた注文処理の流れを説明

      SQSを用いたクレジットカード決済の非同期化 - ZOZO TECH BLOG
    • AWS でバッチ処理・定期実行する4つの方法(EC2,EventBridge,SQS,ECS,Lambda)

      AWS上でバッチ処理を行う場合に、 どのAWSサービスが選択肢として考えられるかどのAWSサービスを選択すればいいのかについて考えていきます。 AWSでバッチ処理・定期実行する方法を4つ紹介し、それぞれ特徴やメリットとデメリットがありますので、この点について記載していきます。 バッチ処理・定期実行方式のパターンと特徴を知って適切な手段を選択しよう!という記事です。 まずはどのような構築方法があるかについて記載していきます。

        AWS でバッチ処理・定期実行する4つの方法(EC2,EventBridge,SQS,ECS,Lambda)
      • SQS + Lambda という⾮同期処理 ⻩⾦パターン再⼊⾨ #AWSDevDay / SQS-Lambda-DevDay2022

        Talked at AWS Dev Day Japan 2022. - 解説動画 : https://www.youtube.com/watch?v=hT7Se0oFEkU - イベントページ: https://aws.amazon.com/jp/events/devday/japan/ - Pr…

          SQS + Lambda という⾮同期処理 ⻩⾦パターン再⼊⾨ #AWSDevDay / SQS-Lambda-DevDay2022
        • AWSのSESとSQSを活用したメール受信機能の実装 | Wantedly Engineer Blog

          これまで、システムから候補者へのメール送信機能はありましたが、候補者からの返信メールはメールクライアントで確認する必要がありました。「候補者とのやり取りを一箇所で完結させたい」という要望を寄せられていました。そこで、候補者が送信したメールを以下画像のようにWeb画面上で確認できる機能を追加することになりました。 課題メール受信機能を実装するにあたり、以下のような課題がありました。 セキュリティ: 外部からのメールを安全に受け取る方法 信頼性: メールの紛失を防ぎ、確実に処理する方法監視: メール処理の失敗を検知する方法また、実装方法についても以下の検討が必要でした。 SNSからの直接Webhook vs SQSポーリングメッセージの重複排除監視設計やったこと(取り組み・改善内容)システム設計メール受信機能の実装にあたり、以下のAWSサービスを組み合わせたアーキテクチャを採用しました。以下フ

            AWSのSESとSQSを活用したメール受信機能の実装 | Wantedly Engineer Blog
          • マルチテナントソリューションでAmazon SQSを使う | Amazon Web Services

            Amazon Web Services ブログ マルチテナントソリューションでAmazon SQSを使う AWS SaaS Factoryチームのシニアパートナーソリューションアーキテクト Raju Patel によって書かれた記事です。 モダンアプリケーションは、サービス統合、バッチ処理、またはワークフローオーケストレーションの一部として、キューイングに依存することがよくあります。キューは、システムの環境に拡張性と耐障害性を追加するうえ重要です。 これは、キューイング戦略をマルチテナントソリューションのワークロードにどのように適用するかを考える必要がある、Software-as-a-Service(SaaS)環境では特に当てはまります。SaaS アプリケーションのキューイングモデルを設計する際には、データの分離、パフォーマンス、および運用を考慮する必要があります。 多くの組織がアマゾンウ

              マルチテナントソリューションでAmazon SQSを使う | Amazon Web Services
            • Lambda + SQS サーバーレスアプリのデプロイ後に発生した Amazon DevOps Guru インサイトに対応してみる | DevelopersIO

              { : "InsightId": "AMxSFH12NiEZZsr-jfHFv2kAAAAAAAAAAo9JEljAspyrigPkDSFhyIgEF5aXkZgR", "InsightDescription": "SQS triggered Lambda does not have a Dead Letter Queue", "InsightSeverity": "medium", "StartTime": 1669356000000, "Anomalies": [ { "Id": "AcnYFT7UD35NVOSXRDW6XZX67EOHVN7OTUHMFJPAZKDKOCRERB6YTKQF2M5RZ2WU", "StartTime": 1669356000000, "Description": "SQS triggered Lambda does not have a Dead L

                Lambda + SQS サーバーレスアプリのデプロイ後に発生した Amazon DevOps Guru インサイトに対応してみる | DevelopersIO
              • AWS Lambda enhances event processing with provisioned mode for SQS event-source mapping | Amazon Web Services

                AWS News Blog AWS Lambda enhances event processing with provisioned mode for SQS event-source mapping Today, we’re announcing the general availability of provisioned mode for AWS Lambda with Amazon Simple Queue Service (Amazon SQS) Event Source Mapping (ESM), a new feature that customers can use to optimize the throughput of their event-driven applications by configuring dedicated polling resource

                  AWS Lambda enhances event processing with provisioned mode for SQS event-source mapping | Amazon Web Services
                • BaggageをREST/gRPC/SQSで伝播できるようにした話 - Qiita

                  なお、弊社はベンダーとしてはDatadog、言語としてはGoを使っているのでその前提でこのブログを書きますが、その他のベンダー、言語でも参考になると思います。 Baggageに含めるとよさそうなもの よくあげられる例としては、UserIDやProductID、ソースIPアドレスなどのリクエストに紐づくデータが挙げられます。注意点として、誤って外部のベンダーにBaggageが渡ってしまう(注意しないとあり得ます)ことを考慮し、セキュアな情報は含めないようにすべきです。 他には、featureフラグを運用しているのであれば、feature情報をBaggageに含めると良いでしょう。 BFFなどの通信の入り口でどのfeatureかを判断し、その後のマイクロサービス間での通信はその情報を常に渡してあげることでマイクロサービス全体で同じfeatureを提供することができます。 以前、軽量featur

                    BaggageをREST/gRPC/SQSで伝播できるようにした話 - Qiita
                  • SNS・SQS・Lambdaを使ったファンアウト構成の注意点 - NRIネットコムBlog

                    こんにちは。上村です。 以前、SNSとSQSにてファンアウトを構成*1しLambdaにメッセージを処理させる仕組みを構築したことがあります。 AWS経験が浅い中での作業だったので、勉強になりました。 その中で、注意ポイントがいくつかあると感じたので本記事で紹介していきます。 本記事で触れないこと SQS設計の上での注意点 標準キューと FIFO キューを使い分ける 適切に可視性タイムアウトを設定する DLQを設計する Lambda設計の上での注意点 べき等性を考慮する 性能試験なども踏まえてメモリを設定する バッチサイズを意識したスクリプトを組む まとめ 本記事で触れないこと 本構成で利用しているサービスの起動方法や構築方法には触れません。 SNSからSQSへ送信したメッセージをLambdaが処理するよう最低限できている前提で、各設定値をどう注意して決めたのかについて本記事で紹介していきま

                      SNS・SQS・Lambdaを使ったファンアウト構成の注意点 - NRIネットコムBlog
                    • goqite is a persistent message queue Go library built on SQLite and inspired by AWS SQS (but much simpler)

                      goqite (pronounced Go-queue-ite) is a persistent message queue Go library built on SQLite and inspired by AWS SQS (but much simpler). $ go get maragu.dev/goqite See goqite on Github Examples Queue package main import ( "context" "database/sql" "fmt" "log/slog" "os" "time" _ "github.com/mattn/go-sqlite3" "maragu.dev/goqite" ) func main() { log := slog.Default() // Setup the db db, err := sql.Open("

                      • Amazon SQS と処理の重複 前編 ~ 可視性タイムアウトの役割

                        SQS はサービス間の通信を非同期で実現するための メッセージキュー をマネージドサービスとして提供しています。ここではキューにメッセージを送る役割のサービスをプロデューサー、キューのメッセージを取得して処理する役割をコンシューマーと呼びます。 現実世界でこの関係を喩えてみます。私はたまに立ち食い寿司のお店に行くことがあるのですが、そのお店では複数の寿司職人さんがいます。私は注文を書いた紙を所定の位置に置いておけば、手が空いた寿司職人さんが注文を受け取ってお寿司を握ってくれます。その場合の関係を以下のように当てはめてみます。 注文する客 → プロデューサー 寿司職人 → コンシューマー 注文 → メッセージ 注文を置く場所 → キュー 私は注文を書いた後、手の空いた寿司職人さんを捕まえられるまで探し続けなくても良いですし、依頼したお寿司を握ってもらっている時間も自由に使えるので「次に何を頼

                          Amazon SQS と処理の重複 前編 ~ 可視性タイムアウトの役割
                        • [アップデート] AWS LambdaがAmazon SQSをイベントソースとしたバッチ処理で部分応答をサポートしました | DevelopersIO

                          Amazon SQSをイベントソースとしたLambda関数のバッチ処理において、一部の失敗したメッセージのIDを返すことで成功したメッセージは削除され失敗したメッセージはキューに残せるようになりました。 こんにちは。サービスグループの武田です。 AWS LambdaはPythonやJavaScriptで書かれた処理をクラウド上で実行できるAWSのFaaSです。さまざまなサービスと統合されていますが、そのひとつとしてAmazon SQSがあります。イベントソースマッピングという機能を使用することで、SQSへのメッセージ送信をトリガーとしてLambda関数を実行できます。SQSをイベントソースとしたLambda関数のトリガーは、バッチ処理として複数のメッセージをまとめて処理させることができます。さて複数のメッセージをまとめて処理する場合に起こる問題として、一部は成功するが一部は失敗してしまった

                            [アップデート] AWS LambdaがAmazon SQSをイベントソースとしたバッチ処理で部分応答をサポートしました | DevelopersIO
                          • New – Enhanced Dead-letter Queue Management Experience for Amazon SQS Standard Queues | Amazon Web Services

                            AWS News Blog New – Enhanced Dead-letter Queue Management Experience for Amazon SQS Standard Queues Hundreds of thousands of customers use Amazon Simple Queue Service (Amazon SQS) to build message-based applications to decouple and scale microservices, distributed systems, and serverless apps. When a message cannot be successfully processed by the queue consumer, you can configure Amazon SQS to st

                              New – Enhanced Dead-letter Queue Management Experience for Amazon SQS Standard Queues | Amazon Web Services
                            • SQS + EventBridge Pipes でのインフライトメッセージの削除

                              この記事は AWS LambdaとServerless Advent Calendar 2022 の24日目の記事です。 EvenBridge Pipes のイベントソースに SQS キューを利用したときのインフライトメッセージの削除処理について試していきます。 インフライトメッセージとは、キューに入っているメッセージをコンシューマーが受信したけど、キューから未削除のメッセージのことです。以下の状態のメッセージです。 はじめに サービス間を疎結合につなぐ選択肢としてメッセージキューがあります。AWS だと Amazon SQS を選択する方が多いでしょう。 この SQS に入っているメッセージを処理するコンシューマーとしての Lambda が本当に最高です。理由は以下のスライドに書かれている通り、受信処理にまつわる様々な実装を Lambda サービス側にオフロードし、実装者はメッセージを扱

                                SQS + EventBridge Pipes でのインフライトメッセージの削除
                              • Understanding how AWS Lambda scales with Amazon SQS standard queues | Amazon Web Services

                                AWS Compute Blog Understanding how AWS Lambda scales with Amazon SQS standard queues Update March 21, 2024: The information explaining Lambda scaling behavior in this article has been superseded by https://aws.amazon.com/blogs/compute/introducing-faster-polling-scale-up-for-aws-lambda-functions-configured-with-amazon-sqs. Update Dec 8, 2021: AWS Lambda now supports partial batch responses for Amaz

                                  Understanding how AWS Lambda scales with Amazon SQS standard queues | Amazon Web Services
                                • 非同期メッセージングでSQSを使う際に検討したこと

                                  背景と目的 マイクロサービス間で非同期メッセージングを実現するために、いくつかメッセージブローカーとしての選択肢があります。例えばAWSのサービスだとSQS, Kinensis, MKSなどが挙げられます。 今回はSQSがサービス間の非同期メッセージングを実現するために利用できるかを調査した時の観点をまとめました。 概要 まず非同期メッセージングの概要を整理します。 非同期メッセージングの役割 ネットワークを介してプロセス間でメッセージを送受信するには、同期的な通信と非同期的な通信があります。 同期的な通信はクライアントがリクエストを発行し、レスポンスを待つという形式になります。 リクエスト先のサービスが対応可能である必要がある レスポンスが返ってくるまでブロッキングされる すぐにリクエストが処理される リクエスト先のサービスの呼び出し方を知る必要がある 非同期的な通信はプロデューサー(あ

                                    非同期メッセージングでSQSを使う際に検討したこと
                                  • [アップデート] AWS LambdaのAmazon SQSイベントソースで最大同時実行数を指定できるようになりました | DevelopersIO

                                    こんにちは。サービス部の武田です。 AWS Lambdaはイベントソースマッピングという機能を利用することで、イベントソースとなるサービスを自動でポーリングしLambda関数をバッチ処理として呼び出せます。 これまでAmazon SQSをイベントソースとして利用する際に、Lambda関数の同時実行数を制限したい場合は「同時実行の予約」で指定していました。しかしこの方法では、制限数を超えたメッセージはキューに返され再試行を待つことになり、適切に設定されていないとすべてのメッセージを正しく処理できませんでした。 今回のアップデートでイベントソースマッピングの設定として同時実行数を指定できるようになりました。これにより、制限数を超えた場合はメッセージの読み取りが停止され、メッセージはそのままキューに残り読み取られるのを待つようになります。 やってみた 最大同時実行数を指定した場合としなかった場合

                                      [アップデート] AWS LambdaのAmazon SQSイベントソースで最大同時実行数を指定できるようになりました | DevelopersIO
                                    • 「SQS*Step Functions*Fargate」でジョブの待ち時間を解消したら、コストも80%削減できた話

                                      こんにちは、ハコベルでエンジニアリングマネージャー兼テックリードをやっている吉岡です。 この記事では、ハコベル配車計画 チームで実施した、インフラアーキテクチャ改善事例についてご紹介します。 これまでのアーキテクチャと課題 ハコベル配車計画が提供する機能の一つに、配送ルートの最適化計算があります。ユーザーは、この計算が想定している時間通りに終わることを前提に業務を組んでいるため、遅延すると配車業務全体が遅れてしまいます。 これまでも、ユーザー数の増加を見越してECSタスク数を調整するなど、運用でカバーすることで影響を防いできましたが、その対応頻度も高まっていました。旧アーキテクチャのままでは、いずれこの運用も限界を迎え、計算の待ち時間が顕在化し、ユーザーの業務フローに支障をきたすのは時間の問題でした。 旧アーキテクチャの構成 実際の構成を少しシンプルにしたものですが、旧アーキテクチャは次の

                                        「SQS*Step Functions*Fargate」でジョブの待ち時間を解消したら、コストも80%削減できた話
                                      • Amazon SQS デッドレターキューリドライブ用の新しい API セット | Amazon Web Services

                                        Amazon Web Services ブログ Amazon SQS デッドレターキューリドライブ用の新しい API セット 6月8日、 Amazon Simple Queue Service (Amazon SQS) の新しい API セットをリリースいたしました。これらの新しい API により、デッドレターキュー (DLQ) リドライブをプログラムで管理できます。AWS SDK または AWS コマンドラインインターフェイス (AWS CLI) を使用して、メッセージを DLQ から元のキューまたはカスタムキューの宛先へプログラム的に移動し、再処理を試みることができるようになりました。DLQ は、コンシューマーアプリケーションで正しく処理されなかったメッセージを Amazon SQS が自動的に移動するキューです。 この新しい API がどのように役立つかを十分に理解するために、歴史を

                                          Amazon SQS デッドレターキューリドライブ用の新しい API セット | Amazon Web Services
                                        • Amazon Simple Queue Service (SQS) – 15 年が経過した今もキューを実行中! | Amazon Web Services

                                          Amazon Web Services ブログ Amazon Simple Queue Service (SQS) – 15 年が経過した今もキューを実行中! 時の流れは早いものです! 私は、2006 年に Amazon Simple Queue Service (SQS) の本稼働の開始についての記事を書きました。その頃は、15 年後にまだブログを書いていること、そして、このサービスが、非常に多くの異なるタイプのウェブスケールアプリケーションのアーキテクチャの基本でありながら、引き続き急速な成長を続けていることは考えてもいませんでした。 SQS の最初のベータ版は、2004 年後半にひっそりと発表されました。そのベータ版以降、当社は多くの機能を追加しましたが、元の説明 (「分散アプリケーションコンポーネント間でメッセージをバッファリングするための信頼性が高くスケーラブルなホストされたキュ

                                          • [アップデート] Amazon SQS で AWS JSON プロトコルがプレビューとして利用出来るようになったので何が変わるのかを確認してみた | DevelopersIO

                                              [アップデート] Amazon SQS で AWS JSON プロトコルがプレビューとして利用出来るようになったので何が変わるのかを確認してみた | DevelopersIO
                                            • Introducing maximum concurrency of AWS Lambda functions when using Amazon SQS as an event source | Amazon Web Services

                                              AWS Compute Blog Introducing maximum concurrency of AWS Lambda functions when using Amazon SQS as an event source This blog post is written by Solutions Architects John Lee and Jeetendra Vaidya. AWS Lambda now provides a way to control the maximum number of concurrent functions invoked by Amazon SQS as an event source. You can use this feature to control the concurrency of Lambda functions process

                                                Introducing maximum concurrency of AWS Lambda functions when using Amazon SQS as an event source | Amazon Web Services
                                              • aws-sdk-railsでSQSをActive Jobのアダプターとして使う - LCL Engineers' Blog

                                                はじめに この記事はLCL Advent Calendar 2021 - 4日目です。 qiita.com バックエンドエンジニアの星野です。このアドベントカレンダー同じ人しかいないって?気のせいです。 LCLのバッチジョブ実行基盤解説記事の最後のエントリになります。 最終日はSQSとActive Jobについてです。この記事ではActive Jobそのものについては解説しませんのでRailsガイドを適宜参照してください。 railsguides.jp Ruby on Railsの非同期処理でActive Jobを使う場合はアダプターを選択する必要があります。 SidekiqやResqueなどRedisをバックエンドにしたアダプターが人気がありますがRedisの管理をしなければならず、シンプルにperform_laterしたいだけの要件に対して大掛かりになりすぎることがあります。*1 そこ

                                                  aws-sdk-railsでSQSをActive Jobのアダプターとして使う - LCL Engineers' Blog
                                                • GitHub - pgmq/pgmq: A lightweight message queue. Like AWS SQS and RSMQ but on Postgres.

                                                  You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

                                                    GitHub - pgmq/pgmq: A lightweight message queue. Like AWS SQS and RSMQ but on Postgres.
                                                  • LocalStack と samlocal コマンドで SQS x Lambda 構成をローカル環境で実行する - kakakakakku blog

                                                    開発中に AWS Lambda 関数をローカル環境で実行するなら AWS SAM CLI の sam local invoke -e event.json コマンドを使えば良く,また AWS Lambda 関数のベストプラクティスに載っている Lambda ハンドラーをコアロジックから分離します。 を意識して実装すれば,単体テストを軸に動作確認を進めることもできる. とは言え,実際に AWS Lambda 関数のイベントソースマッピング(トリガー設定)を確認したいこともあり,今回は AWS SAM を使って構築する Amazon SQS キューと AWS Lambda 関数の組み合わせを samlocal コマンドを使って LocalStack にデプロイして動作確認をしてみた.結果的に期待した通りに動いた❗️ \( 'ω')/ LocalStack 便利すぎ〜 🚀 アーキテクチャ図

                                                      LocalStack と samlocal コマンドで SQS x Lambda 構成をローカル環境で実行する - kakakakakku blog
                                                    • Amazon SQS のマルチテナントワークロードにフェアキューを導入 - AWS

                                                      Amazon Simple Queue Service (Amazon SQS) では、新しい機能であるフェアキューの提供を開始しました。この機能は、マルチテナントの標準キューにおけるノイジーネイバーの影響を軽減するものです。1 つのテナント (お客様、クライアントアプリケーション、またはリクエストタイプなど) が送信するメッセージが多すぎる場合や、長い処理時間を必要とするメッセージがある場合、フェアキューを使用すると、他のテナントのメッセージを大幅に遅延することなく処理できます。この仕組みにより、標準キューのスケーラビリティとスループットを維持しながら、すべてのテナントのサービス品質を保持できます。 フェアキューを有効にするには、Amazon SQS 標準キューにメッセージを送信するときにメッセージグループ ID を含めてください。メッセージコンシューマーに変更は必要ないため、実稼働シス

                                                        Amazon SQS のマルチテナントワークロードにフェアキューを導入 - AWS
                                                      • 「これから始めるAWS SQS!メッセージキューと上手に付き合うワンランク上の実装を解説😎」低コストなモダナイズ開発の実践 | Ragate

                                                        こんにちは! AWS SQS って具体的に何ができるのか、よくわからない方が多いのでは?と思います。 本記事では、メッセージキューを使用したユースケースと、そのプログラミング方法を紹介します。 サービス開発の中で AWS SQS を一切使用しないという選択も可能ですが、ユースケースによっては実装コスト・リスクを大きく軽減できる可能性があります、是非覚えていってください。 想定する読者 AWS サーバーレスで開発を行っているヒトメッセージキューを扱ったことがないヒトAWS SQS の概要から実装方法を知りたいヒト はじめに AWS SQS でできること 非同期での処理実行 例えば、財務システムの開発で帳票を PDF 出力できる機能を考えてみましょう。 PDF 出力には、財務システムの持つ様々な計算ロジックを起動させる必要があり、PDF 出力完了までに10秒以上の時間を要する可能性があるとしま

                                                          「これから始めるAWS SQS!メッセージキューと上手に付き合うワンランク上の実装を解説😎」低コストなモダナイズ開発の実践 | Ragate
                                                        • Amazon SQSワーカーのアーキテクチャーをLambdaイベントソース/EventBridge Pipes/独自の3パターンで比較してみた | DevelopersIO

                                                          各実装方式の詳細は以下のとおりです 1. Lambdaイベントソース型 Lambdaのイベントソースマッピングを利用すると、SQS・Kinesis Data Streamなど様々なソースにポーリングを行い、Lambdaを呼び出せます。 イベントソースが暗黙にポーリングやSQSメッセージの受信・削除をするため、Lambdaアプリケーションは受け取ったメッセージの処理ロジックだけを記述します。 覚えることが少なくて済み、管理も楽なため、SQSコンシューマーの初手としておすすめできる一方で、最大の問題点はLambdaの制約に縛れることです。 メッセージ処理が15分を超えたり、10GBを超える潤沢なメモリが必要だったり、GPUが必要だったりすると、Lambda(とLambdaに依存するイベントソース)を採用できません。 ポーリングに伴うAPI呼び出しの利用費も発生しますが、コンシューマー処理の利用

                                                            Amazon SQSワーカーのアーキテクチャーをLambdaイベントソース/EventBridge Pipes/独自の3パターンで比較してみた | DevelopersIO
                                                          • Lambda+SQS 構成での可視性タイムアウトに気を付けよう! | DevelopersIO

                                                            こんにちは、稲葉です。 最近、Lambda+SQS 構成での開発で可視性タイムアウトの設定で躓いた箇所があった為、 その共有と対処法について、今回記事にしたいと思います。 躓いた箇所 Lambda+SQSで構成して、SQSからのメッセージをトリガーにしてLambdaを実行していました。このLambdaは最大4回ループ、また1回の処理でも比較的時間がかかる処理を行います。 実際に動かしてみた所、処理が完了したはずなのに再実行されるといった意図しない動作をしました。そのため、まずはLambdaのログを確認。しかし、ログを確認した所、エラーは発生しておらず正常に動作してました。 となると、問題があるのはSQS の設定だと考え、色々調べた結果。遂に、原因を突き止めました! ズバリ、可視性タイムアウトの設定が原因でした! と言うより、可視性タイムアウトは特に設定していなかったため、デフォルトの30秒

                                                              Lambda+SQS 構成での可視性タイムアウトに気を付けよう! | DevelopersIO
                                                            • SQS + Lambda という非同期処理黄金パターン再入門 | AWS Dev Day 2022 Japan #AWSDevDay

                                                              AWS 上で非同期処理を実装するとなるとまず何が思い浮かびますか?私はまず SQS + Lambda が思い浮かびます。キューに対するポーリングやメッセージ削除といったジョブキューを扱う上での Undifferentiated heavy lifting(差別化に繋がらない重労働) な実装をサービス側に任せられるだけでも控えめに言って最高ですよね。このセッションでは SQS(キュー) + Lambda を使った非同期実装に改めて向き合い、この黄金パターンを選ぶメリットや実装する上での考え方・考慮点などをお伝えしていくセッションです。 スピーカー: 白石 一乃 (アマゾン ウェブ サービス ジャパン合同会社 ソリューションアーキテクト) セッションに関する情報: ・想定聴講者の役割/開発対象:Web バックエンド / サーバーサイド開発 ・セッションのトピック:Web バックエンド /

                                                                SQS + Lambda という非同期処理黄金パターン再入門 | AWS Dev Day 2022 Japan #AWSDevDay
                                                              • SQSトリガーで起動するLambdaは非同期呼び出しではないので、DLQの設定はSQSでやろう。LambdaのDLQやDestinationはダメでした。 | DevelopersIO

                                                                SNS→SQS→Lambdaの組み合わせを使っている方は多いと思います。 このとき、LambdaがErrorになってもSQSにデータが残り続けるため、任意時間後に自動で再実行してくれます。便利ですね。 しかし、何らかの理由によってDLQを設定するとき、LambdaのDLQやDestinationを設定しても、動作しませんでした。 理由はSQSトリガーで動作するLambdaは非同期呼び出しではないからです。DLQを使いたい場合は、SQSのDLQを使いましょう。 Comparing Lambda invocation modes - AWS Lambda Understanding SQS retries - AWS Lambda 実際に試してみました。 おすすめの方 SQSトリガーで起動するLambdaをAWS SAMで作りたい方 SQSにDLQを設定したい方 SNS -> SQSの構成を作

                                                                  SQSトリガーで起動するLambdaは非同期呼び出しではないので、DLQの設定はSQSでやろう。LambdaのDLQやDestinationはダメでした。 | DevelopersIO
                                                                • LambdaとSQSを使ってWebhookによるスパイクに対応する - DROBEプロダクト開発ブログ

                                                                  はじめに CTOの都筑(@tsuzukit2)です。 DROBE では様々な外部サービスを利用していますが、事前に設定しておく事で外部サービス側で特定のイベントが発生した際に DROBE 側に HTTP のリクエストを送ってくれる仕組みを多く利用しています。 Webhook のわかりやすい例としては、例えば SendGrid のような外部サービスでメールの配信を行っている場合に、実際にメールの配信結果がどうだったかをアプリケーションで確実に検知したいといった場合に、SendGrid での配信完了イベントをトリガーとした Webhook を設定します。 SendGrid の Webhook を使ってメールの配信完了を Application で検知する例 こういった仕組みを使う事で、アプリケーション側ではメールの送信をリクエストした事だけではなく、メールがしっかりと配信された事、もしくはエラ

                                                                    LambdaとSQSを使ってWebhookによるスパイクに対応する - DROBEプロダクト開発ブログ
                                                                  • AWSのメッセージングサービス SQS、SNS、EventBridge の主な機能比較 - Qiita

                                                                    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

                                                                      AWSのメッセージングサービス SQS、SNS、EventBridge の主な機能比較 - Qiita
                                                                    • AWSのストリーム処理向けメッセージングサービスKDS(Kinesis)・MSK(Kafka)・SQSの特徴 - Qiita

                                                                      著者: 伊藤 雅博, 株式会社日立製作所 はじめに AWSでストリーム処理を実現する際は、データをキューイングするメッセージングサービスと、キューイングしたデータをストリーム処理するサービスを組み合わせることが一般的です。本投稿では、AWSが提供する各メッセージングサービスのうち、ストリームデータを扱う際によく活用されている下記サービスの特徴を紹介します。 Amazon Kinesis Data Streams (KDS) Amazon Managed Streaming for Apache Kafka (MSK) Amazon Simple Queue Service (SQS) なお、本投稿の内容は2020年中頃の調査結果をベースに、いくつか更新を加えたものです。AWSのサービス仕様は随時更新されるため、最新の仕様とは異なる場合があります。最新の情報はAWSの公式ドキュメントをご参照

                                                                        AWSのストリーム処理向けメッセージングサービスKDS(Kinesis)・MSK(Kafka)・SQSの特徴 - Qiita
                                                                      • 新機能 – Amazon SQS 標準キューに拡張されたデッドレターキュー管理エクスペリエンス | Amazon Web Services

                                                                        Amazon Web Services ブログ 新機能 – Amazon SQS 標準キューに拡張されたデッドレターキュー管理エクスペリエンス 何十万人ものお客様が Amazon Simple Queue Service (SQS) を使用してメッセージベースのアプリケーションを構築し、マイクロサービス、分散システム、サーバーレスアプリケーションの分離とスケーリングを行っています。キューコンシューマーがメッセージを正常に処理できない場合は、メッセージをデッドレターキュー (DLQ) に保存するように SQS を設定できます。 ソフトウェア開発者やアーキテクトであれば、DLQ 内の消費されなかったメッセージを調べて確認し、処理できなかった理由を解明して、パターンを特定し、コードエラーを解決して、最終的に元のキューでこれらのメッセージを再処理したいと考えるでしょう。これらの消費されなかったメッ

                                                                          新機能 – Amazon SQS 標準キューに拡張されたデッドレターキュー管理エクスペリエンス | Amazon Web Services
                                                                        • [アップデート] Amazon SQS の DLQ(デッドレターキュー)の再処理を AWS SDK/CLI を使って処理出来るようになりました | DevelopersIO

                                                                            [アップデート] Amazon SQS の DLQ(デッドレターキュー)の再処理を AWS SDK/CLI を使って処理出来るようになりました | DevelopersIO
                                                                          • [serverless] AWS LambdaのイベントソースにSQSを使う | DevelopersIO

                                                                            Introduction 皆さんご存知のとおり、AWS Lambdaとはサーバーレスでプログラムを実行できる 環境を提供するAWSのサービスです。 実行したい処理を関数として定義すればそのまま実行できますが、 S3/DynamoDB/Kinesis/SNS/SQSなどをトリガーとしてLambdaを起動させることも可能です。 本稿ではSQSをトリガーとしてLambdaを実行させてみます。 (先日この仕組みで確認事項があり、試してみたのでそのアウトプット) SQS + Lambdaの仕組み 仕組みは単純です。 イベントソースマッピングを行い、SQSとLambdaを関連付けるだけです。 Lambdaは自動的にスケールされ、設定により細かく制御可能です。 イベントソースマッピングは、現状標準キューとFIFOキューがサポートされています。 Lambda はキューをポーリングし、キューからメッセージを

                                                                              [serverless] AWS LambdaのイベントソースにSQSを使う | DevelopersIO
                                                                            • AWS SNS vs. SQS - What are the main differences?

                                                                              AWS offers many great messaging services. Two of their most famous services are Amazon Simple Notification Service (SNS) and Amazon Simple Queue Service (SQS). While both can be used in a pretty similar way they are completely different services. This blog post will explain to you the similarities, differences, and how to choose which service. Finally, I will show you some example use cases and a

                                                                                AWS SNS vs. SQS - What are the main differences?
                                                                              • Amazon SQS と処理の重複 後編 ~ FIFO キューの特徴

                                                                                Amazon SQS ではキューを作成するときにスタンダードキューか FIFO キューのどちらかのタイプを選択します。キューのタイプは作成後に変更できません。 FIFO キューは前回紹介したスタンダードキューと同じ API でメッセージの送受信をするため、使い方はスタンダードキューと似ている部分が多いです。 プロデューサーが SendMessage リクエストで、キューにメッセージを送る コンシューマーが ReceiveMessage リクエストで、キューからメッセージを取り出す キューから取り出したメッセージに可視性タイムアウトが設定できる コンシューマーが DeleteMessage リクエストで、処理が完了したメッセージをキューから削除する しかし キュータイプ の説明に記載がある通り、配信順序、メッセージ配信時の重複の有無、スループットなどに違いがあります。その中で重要な用語を説明

                                                                                  Amazon SQS と処理の重複 後編 ~ FIFO キューの特徴
                                                                                • New for Amazon SQS – Update the AWS SDK to reduce latency | Amazon Web Services

                                                                                  AWS News Blog New for Amazon SQS – Update the AWS SDK to reduce latency With Amazon SQS, you can send and receive messages between software components at any scale. It was one of the first AWS services I used and as a Solutions Architect, I helped many customers take advantage of asynchronous communications using message queues. In fact, Amazon SQS has been generally available since July 2006 and,

                                                                                    New for Amazon SQS – Update the AWS SDK to reduce latency | Amazon Web Services

                                                                                  新着記事