gRPC with NLB は idle timeout に気をつけないと死ぬ | Hori Blog
Hori Blogフリーランスでバックエンドエンジニアとして活動している Ryota Hori のブログです。 最近はテック系記事より雑記ブログ気味。 先日発表された AWS の Network Load Balancer (NLB) を gRPC で使ってみたのですが、 idle timeout 周りで盛大にミスったので知見共有です。 経緯 先日、 NLB こと Network Load Balancer が AWS にてリリースされました。 新しい Network Load Balancer – 秒間数百万リクエストに簡単にスケーリング | Amazon Web Services ブログ NLB は TCP レベルでのロードバランシングができ、プレウォーミングなしで高パフォーマンスを発揮できるため既存の AWS の LB に比べ gRPC との相性が良いです。 マイクロサービス構成を取
Network Load Balancers - Elastic Load Balancing
A load balancer serves as the single point of contact for clients. Clients send requests to the load balancer, and the load balancer sends them to targets, such as EC2 instances, in one or more Availability Zones. To configure your load balancer, you create target groups, and then register targets with your target groups. Your load balancer is most effective if you ensure that each enabled Availab
Network Load Balancers のターゲットグループ - Elastic Load Balancing
翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。 Network Load Balancers のターゲットグループ 各ターゲットグループは、1 つ以上の登録されているターゲットにリクエストをルーティングするために使用されます。リスナーを作成するときは、デフォルトアクションのターゲットグループを指定します。トラフィックは、リスナー規則で指定されたターゲットグループに転送されます。さまざまなタイプのリクエストに応じて別のターゲットグループを作成できます。たとえば、一般的なリクエスト用に 1 つのターゲットグループを作成し、アプリケーションのマイクロサービスへのリクエスト用に別のターゲットグループを作成できます。詳細については、「Network Load Balancer のコンポーネント」を参照してください。 ロード
AWS NLB は Source IP/Port を維持するが DSR 動作はしない - らくがきちょう
AWS Black Belt Online Seminar は毎回、素晴らしい内容です。 2017 年公開の資料なので、最新の情報ではありませんが NLB の基本的動作については ELB Update - Network Load Balancer (NLB) と関連サービス に分かりやすく、且つ、丁寧にかかれています。 この資料の P.20 に下記の記載があります。 クライアントの Source IP と Port が、そのまま Target まで届く Target はクライアントと直接通信しているかの様に見える 実際は、行きも帰りも NLB を通っている (DSR ではない) IP Target (後述) の場合は保持されず、NLB からの通信となる Direct Connect は接続されている VPC からのみ通信可能なので、こちらで回避 Instance Target で NLB
Network Load Balancer（NLB）でクロスゾーン負荷分散が可能になりました | DevelopersIO
大栗です。 先日NLBでのクロスゾーン負荷分散が可能になりましたので試してみます。 Network Load Balancer now Supports Cross-Zone Load Balancing クロスゾーン負荷分散 今回NLBの一つのIPアドレスに対するリクエストを同じAZだけでなくNLBの配下全てのインスタンスに負荷分散ができるようになりました。これにより以下のようなメリットが期待できます。 IPアドレスごとの可用性を向上できる ゾーンごとの負荷を平準化できる 以下でメリットの詳細を解説します。 IPアドレスごとの可用性を向上できる ここでは2AZでゾーンごとに1インスタンスを配置する場合を考えてみます。 ここで一つのインスタンスに障害が発生した場合を考えます。 右側のゾーンのインスタンスがリクエストを返せないため、クライアントから見るとNLBの右側のアクセスができない状態と
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
This document provides an overview of Elastic Load Balancing (ELB) on AWS. It discusses the different types of ELBs (Application Load Balancer, Network Load Balancer, Classic Load Balancer), their key features and how they can be used to build scalable and highly available systems by distributing traffic across multiple Availability Zones and targets like EC2 instances or ECS containers. It also c
AWSでWebサイトをHTTPS化 その4：NLB→EC2(+外部SSL証明書)編
渡邊です。 AWSでWebサイトをHTTPS化 全パターンを整理してみました の記事ではAWSを使ってWebサイトをHTTPS化するパターンを一通り紹介しました。 今回はそのパターンの1つ、『NLB→EC2(+外部SSL証明書)』の構成を検証してみます。 構成 構成図は次の通りです。 NLB(Network Load Balancer)でHTTPS通信をEC2にスルーする構成です。 SSL終端はEC2内Webサーバとなります。ApacheやnginxなどWebサーバに組み込むために外部CAで発行したSSL証明書も必要です。 NLBは送信元IPアドレスを変えないので、見かけ上はクライアントとサーバで直接通信しているように見える上に、ロードバランサを利用した負荷分散も実現できます。 なお、CLB(Classic Load Balancer)でも同様にTCPのままスルーすることができます。 構築
AWS PrivateLinkのアップデート – お客様のアプリケーション&サービス向けのVPCエンドポイント | Amazon Web Services
Amazon Web Services ブログ AWS PrivateLinkのアップデート – お客様のアプリケーション&サービス向けのVPCエンドポイント 今月はじめに、私の同僚であるColm MacCárthaighがAWS PrivateLinkに関する記事でVPCエンドポイントを利用したAmazon Kinesis StreamsやAWS Service Catalog、AWS Systems Manager、そしてEC2やELBのAPIへのアクセス方法についてご紹介しました。VPCエンドポイント (1つまたは複数のElastic Network InterfacesまたはENIで表される) はVPC内に存在し、VPCのサブネットからIPアドレスを取得します。これらのAWSサービスにアクセスするためにはインターネットゲートウェイやNATゲートウェイは必要ありません。このモデルは明
AWS PrivateLink でエンドツーエンドの HTTPS 接続をアクティブ化する
コンシューマー VPC のクライアントと、サービスプロバイダー VPC の Network Load Balancer の背後で実行されているアプリケーションとのエンドツーエンド HTTPS 接続が必要です。AWS PrivateLink を使用してこれを行うにはどうすればよいですか? 解決方法 OpenSSL を使用するアプリケーション用の自己署名 X509 証明書を作成します。その後、必要な Amazon Elastic Compute Cloud (Amazon EC2) インスタンスにインストールします。 注: この証明書は、Elastic Load Balancer とターゲット EC2 インスタンスの間でのみ使用されます。証明書に署名するには、信頼できる認証機関を使用するのがベストプラクティスです。自己署名付き証明書は、テスト環境でのみ使用するか、Elastic Load Ba
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Elastic Load Balancing: Network Load Balancers now support multiple TLS certificates using Server Name Indication (SNI)