先日、某所のnginxを1.14系から1.16系に更新したところ、レスポンスタイムが悪化する現象に遭遇したので、その時の対処記録。以下は99percentileと95percentileでのレイテンシのグラフ。 99percentile latency 95percentile latency nginxのバージョンアップでレスポンスタイムが悪化するのを経験したのは初めてのことだったのですが、いろいろ調べてみるとアップストリームサーバとのキープアライブに関する挙動が大きく変わったのが原因で、そのへんのディレクティブの値をちょいと調整することで元のレスポンスタイムを維持できるようになりました。 nginxの1.16系と1.14系の大きな違いの一つとしてkeepalive_requestsディレクティブが従来のhttp, server, locationコンテキストに加えてupstreamコン
概要 gRPCでは１つのHTTP/2コネクション上でstreamを多重化します。 しかしidleなコネクションは、LBなど間に介在するネットワーク機器によって気づいたら切断されているケースがあります。 そうならないよう、定期的にパケット（PINGフレーム）を流して「idleではないよ」とコネクションを維持しようとするのがいわゆるkeepaliveという仕組みです。 gRPCではデフォルトの設定では無効になっている＆地味に設定が細かいので１つ１つ説明します。 gRPCのkeepaliveの役割 大きく２つあります。 １つ目は先に述べたようにidleコネクションを維持するためです。 ２つ目は死んだコネクション（TCPハーフオープン）があったら切断し、再接続するためです。 例えばNLBでは350秒以上idleなコネクションが切断される仕組みがあり、これによって普段あんまりトラフィックの無いサービ
HTTP KeepAliveとリバースプロキシにまつわる話 | TECHSCORE BLOG | TECHSCORE BLOG
WEBアプリケーションサーバを構築する際、ELBやApacheやnginxなど何らかのリバースプロキシを前段に置くケースは非常に多いと思います。 今回は、筆者が各種リバースプロキシで1回ずつ位ハマった気がする、KeepAliveタイムアウト問題について解説します。 まずはHTTPにおけるKeepAliveについて簡単に説明します。 HTTP1.1の持続的接続(Persistent Connections)の根幹をなす機能で、1つのTCPコネクションで複数のリクエスト、レスポンスをやり取りする仕組みです。 このような機能が求められた背景には、TCP接続時の3Wayハンドシェイクのような負荷の高い処理を減らしたい、という目的があります。 単純化したシーケンス図で表すと、以下のようなフローになります。 KeepAliveタイムアウト サーバー側は次のリクエストを待つ際、いつ送られるかわからないリ
背景 以前gRPCのkeepaliveについて説明しました。 christina04.hatenablog.com keepaliveの目的は idleコネクションを維持するため 死んだコネクション（TCPハーフオープン）があったら切断し、再接続するため と書きましたが、どちらの検証もアクティブなRPCがなくなってからのkeepaliveの例であり、リクエストが続く中での挙動は検証できてなかったので今回はそれを行います。 環境 grpc-go v1.38.1 Ubuntu 18.04 (Linux Kernel 4.15.0-147-generic) PINGフレームはいつ送信される？ Client-side keepaliveのパラメータであるTimeで送信間隔は設定できますが、いつ条件を満たして発火する(タイマーが開始する)かについては説明していませんでした。 Proposalでは i
bgamari - 2021-06-08 In GHC 9.0 we have reworked the primops used for guaranteeing heap object lifetime in the presence of off-heap references. The result is a new primop, keepAlive#, which largely replaces the venerable touch# operation. This post will give some background on touch#, describe the rationale for this change, discuss some of the alternatives that were evaluated on the way to this ne
# TL;DR Linux は TCP KeepAlive に対応していますが、普通に socket を開くだけだと有効化されません。既定では無効の状態です。アプリケーションが setsockopt システムコールを (第 3 引数 = 1 で) 呼び出して、初めて TCP KeepAlive が有効化されます (ちなみに既定で TCP KeepAlive が無効なのは、Windows でも同様です)。 アプリケーションで TCP KeepAlive を有効化するには、2 つの方法がとれます。 アプリケーションで setsockopt を実装する。ただし、ソースコードの編集やコンパイル/ビルドが出来る必要があります。 LD_PRELOAD=libkeepalive.so を環境変数に宣言してからアプリケーションを実行する。ソースコードに手を加えなくて良いのが利点である一方、libkeepa
Advent Calendar 2020 全部オレシリーズ 14日目です。誕生日記念号です。おめでとうございます。ありがとうございます。 先日も gRPC と NLB での idle timeout の問題について触れましたが、今回は Istio の Ingress Gateway で NLB の idle timeout に対応する方法です。 Go言語ではクライアント側もサーバー側もデフォルトで15秒間隔の TCP keepalive が有効になるということも書きましたが、Istio を導入した環境では、サーバーの接続相手は localhost の Envoy (istio-proxy) となるため、TCP keepalive もその間で閉じてしまってクライアントには届きません。クライアントと TCP 接続するのは Istio Ingress Gateway なのです。 また、クライアン
Application Load Balancer enables configuring HTTP client keepalive duration
Application Load Balancer (ALB) now provides flexibility that allows you to configure HTTP client keepalive duration for communication between clients and load balancer. With this feature, you can configure keepalive values to optimize client experience. The HTTP client keepalive duration value specifies the maximum amount of time that ALB will maintain an HTTP connection with a client before clos
AWS の環境で ELB(ALB)のアイドルタイムアウトの設定を変更する際、意識しておかなければいけなのがバックエンド側の KeepAlive やタイムアウト設定です。 バックエンド接続では EC2 インスタンスに HTTP キープアライブオプションを有効にすることが推奨されます。EC2 インスタンスのウェブサーバー設定で HTTP キープアライブを有効にできます。HTTP キープアライブを有効にすると、ロードバランサーはキープアライブのタイムアウト期間が終了するまで、バックエンド接続を再利用できます。また、アプリケーションのアイドルタイムアウトは、ロードバランサーに設定されたアイドルタイムアウトよりも大きな値に設定することをお勧めします。 Application Load Balancer バックエンド側が Apache や Nginx のケースはこれまでに何度も経験してきましたが、To
TCP KeepAliveが無効の場合はどうなるのか？
ソケットオプションSO_KEEPALIVEを有効にしていると、通信が無い状態が一定時間続いた場合、ピアの生存確認のためにKeepAliveパケットが送られるということは分かりました。Linuxの場合だと下記のパラメータから、 2時間通信が無い場合に 75秒間隔でKeepAliveパケットを送り 9回連続で応答が無い場合にコネクションを切断する となると思います。 net.ipv4.tcp_keepalive_intvl = 75 net.ipv4.tcp_keepalive_probes = 9 net.ipv4.tcp_keepalive_time = 7200 これらのパラメータはソケットオプションTCP_KEEPIDLE, TCP_KEEPINTVL, TCP_KEEPCNTにより、ソケット毎にも設定できるそうです。 では、SO_KEEPALIVEが無効の場合（Linuxではデフォル
TCP Keepalive is a lie
In the past few months, I’ve had to debug some gnarly issues related to TCP_KEEPALIVE. Through these issues, I’ve learned that it is harder than one might think to ensure that your sockets fail after a short time when the network is disconnected. This blog post is intended to serve as a cautionary tale. What is TCP_KEEPALIVE and how are we using it? TCP_KEEPALIVE is an optional TCP socket option (
GitHub - node-modules/agentkeepalive: Support keepalive http agent.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Oracle Databaseにおけるクライアント及びサーバのKeepAlive機能について説明します。クライアントがサーバからのエラーが受け取れず、ハングしてしまう場合などの回避に利用できる機能です。 KeepAlive(キープアライブ)について KeepAliveとは KeepAliveとはネットワーク接続が有効であるか確認するために、定期的に行われる通信のことを指します。 接続先がハングや強制停止された時にエラーを戻さなかった場合でも、接続元からの定期的なチェックにより、エラーとして検知できるようになります。 また、長時間応答待ちを行うSQLの待機中でも、KeepAliveのパケットが一定間隔で送信されます。そのため、非アクティブ状態が一定時間続いた場合に強制切断する設定を入れている環境での、意図しない切断の回避などにも有効です。 クライアント側のKeepAliveの設定について デ
TCP KeepAliveの値を調整 ウェブのフロントエンドはapache httpで運用しています。どうも最近行儀がよくないクローラが時々きてはコンテンツをさらっていくんですが、ネットワーク的に行儀がわるいみたいで、TCP waitでコネクションが残ってしまうことがあります。 apache serverのstatus画面(/statusで参照できる画面)では w (Sending Reply)でとまってる状況。こっち(サーバ)としてはリクエストを返してるのに受け取ってくれないとか、もっとロウなレベルで切れるまでいかない中途半端な状態になってる模様。 一応自動監視システムでもって、その状態のスレッドが一定数を越えた場合にはhttpdを再起動して全部状態をリセットするようにしているのでサービスにはそれほど影響がないのですが、なんとかできないかなと。 で、TCPコネクションがキレないのがあまり
BGP KEEPALIVEタイマ/ホールドタイムの設定
概要BGPネイバーは基本的にKEEPALIVEメッセージを定期的に交換することで維持します。KEEPALIVEメッセージに関するタイマの設定について解説します。 KEEPALIVEタイマ/ホールドタイムとはBGPネイバーの維持を行うために、KEEPALIVEメッセージを利用します。ネイバーに自身が正常に動作していることを知らせるためにKEEPALIVEメッセージを定期的に送信します。KEEPALIVEメッセージを送信する間隔がKEEPALIVEタイマです。また、ネイバーからの定期的なKEEPALIVEが届かずにネイバーがダウンしたとみなす時間がホールドタイムです。 Cisco IOSでのそれぞれのデフォルト値は次の通りです。 KEEPALIVEタイマ:60秒ホールドタイム:180秒ホールドタイムは当然ながらKEEPALIVEタイマよりも大きくなくてはいけません。ホールドタイムはKEEPAL
keepalive - Google 検索
KeepAlive（キープアライブ）とは、ネットワークで接続された機器やソフトウェア同士が、お互いに正常に接続されていることを確認するために、定期的にやり取りする ...
NginxのKeepAlive設定は理解が大事 一番最初に悩むところじゃないだろうか。 ここの疑問を無くすべく熱く語りたい。 ※難しい言葉は使わない １、KeepAliveとは サーバーへ接続しっぱなしの状態にすること。 例えばKeepAliveが無いと画像のダウンロードの度にサーバーに新規接続します。 処理が重く・遅く、無駄でしかない。 それを解決したのがKeepAlive。 ApacheもNginxもデフォルトで有効になっています。 ２、KeepAliveの効果について 新規接続にかかる時間が無くなるので高速に。 1回くらいなら気付かないレベルですが、 画像等を多数読み込むとなるとだいぶ遅く感じます。 KeepAliveが効いているかどうかは上図のようにデベロッパーツールで確認してみてください。 ３、フロントからバックエンドに接続するKeepAliveについて Nginxはフロント→バ
AWS の環境で ELB(ALB)のアイドルタイムアウトの設定を変更する際、意識しておかなければいけなのがバックエンド側の KeepAlive やタイムアウト設定です。 For backend connections, we recommend that you enable the HTTP keep-alive option for your EC2 instances. You can enable HTTP keep-alive in the web server settings for your EC2 instances. If you enable HTTP keep-alive, the load balancer can reuse backend connections until the keep-alive timeout expires. バックエンド接続では
apschedulerについて 以下の通り、定期実行のためのpython library Advanced Python Scheduler Advanced Python Scheduler (APScheduler) is a Python library that lets you schedule your Python code to be executed later, either just once or periodically. インストール https://pypi.org/project/APScheduler/ # -*- coding: utf-8 -*- from apscheduler.schedulers.blocking import BlockingScheduler def keep_alive(): print("keep_alive!!") sc
伊豆・伊東のサテライトオフィスの週末稼働率が80%超、平日ワーケーション利用も順調に稼働、DXコンサルティングのKeepAlive～稼働から約1年、利用調査・アンケート実施～ DX（デジタルトランスフォーメーション）コンサルティングを提供するKeepAlive（キープアライブ）株式会社(東京都新宿区新宿2-1-11、代表取締役 成田敦、西田陽介)は、静岡県伊東市に構えるサテライトオフィス「Working Base Izu-Ito（ワーキングベースイズイトウ」の利用調査およびアンケートを実施しました。 「Working Base Izu-Ito」の外観 当社は、働く場所や時間等、従来の働き方についての変革と再構築を行うべく社内プロジェクトとして発足した「Working Base Project（ワーキングベースプロジェクト）」において、静岡県伊東市に取得した「Working Base Izu
httplib disable keepalive by default · Issue #3609 · astaxie/beego · GitHub
Dismiss Join GitHub today GitHub is home to over 50 million developers working together to host and review code, manage projects, and build software together. Sign up Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community. Pick a username Email Address Password Sign up for GitHub By clicking “Sign up for GitHub”, you agr
ソケットオプションの使い方(SO_KEEPALIVE編) - hana_shinのLinux技術ブログ
1 TCP Keep-Aliveとは? 1.1 概要 1.2 ソケットオプション 1.3 シーケンス 2 検証環境 2.1 ネットワーク構成 2.2 版数 3 テストプログラム 3.1 サーバ側TP 3.2 クライアント側TP 3.3 コンパイル 4 動作確認 4.1 相手から応答がない場合 4.2 相手から応答がある場合 5 メモ Z 参考情報 1 TCP Keep-Aliveとは? 1.1 概要 TCPコネクション確立状態において、相手の生存確認をするためのTCP Keep-Aliveという機能があります。相手からTCPパケットを受信したあと、一定時間相手からTCPパケットを受信しないと、相手が生存しているかどうかを確認するため、TCP Keep-Aliveパケットを相手に送信します。TCP Keep-Aliveパケットを規定回数送信しても、相手から応答がないとRSTパケットを送信して
Apache2.4をMPM_workerで動かしてKeepAlive有無によるログとパケットの差異を観察する - Qiita
やったこと ApacheのチューニングとしてHTTP Keep-Aliveの設定をよく見かけます。 このKeep-Alive、仕組みをわかってるつもりではいるんですが、挙動をじっくり見たことがありませんでした。 そこで今回は、Keep-Aliveの有無によって パケットキャプチャ アクセスログ がどう変わるのかを観察してみます。 環境 # cat /etc/centos-release CentOS Linux release 7.1.1503 (Core) # httpd -v Server version: Apache/2.4.6 (CentOS) Server built: Apr 2 2020 13:13:23
はじめに MagicOnion の StreamingHub を利用している際にクライアント側でインターネットの接続を切っても、 サーバ側からクライアントの終了を即時に検知することが出来ないでいました。。 僕の環境ではその挙動でも問題がなかったので放置していたのですが、 他にも悩んでいる方がいるようだったので、調査することにしました その結果、どうやら gRPC の keepalive の設定を行うことで対策出来そうでした 今後も keepalive の設定をすることはありそうなので記事として残すことにしました 動作環境 .NET Core サーバ ASP.NET Core 2.2 MagicOnion 2.1.0(2.1.2) Unity クライアント Unity 2019.1.4f1 MagicOnion 2.1.0(2.1.2) grpc_unity_package.1.22.0-d
説明 SIO_KEEPALIVE_VALS制御コードは、TCP キープアライブ タイムアウトと間隔を指定する TCP キープアライブ オプションの接続ごとの設定を有効または無効にします。 この操作を実行するには、次のパラメーターを使用して WSAIoctl または WSPIoctl 関数を呼び出します。 int WSAIoctl( (socket) s, // descriptor identifying a socket SIO_KEEPALIVE_VALS, // dwIoControlCode (LPVOID) lpvInBuffer, // pointer to tcp_keepalive struct (DWORD) cbInBuffer, // length of input buffer NULL, // output buffer 0, // size of output
KeepAlive
F5のサイト サポート ポータル F5製品およびサービスに関するセルフサービス ヘルプの記事 DevCentral 弊社主催のコミュニティでつながり、学ぶ My F5 サブスクリプションおよび登録キーの管理 Partner Central F5パートナーのためのリソースおよびサポート ポータル LearnF5 Learn to use F5 products F5へのお問い合わせ F5販売担当部へのお問い合わせ 詳しくは、F5の営業担当社にお問い合わせください F5サポートへのお問い合わせ お近くのサポート担当者にお問い合わせください プロフェッショナルサービスへのお問い合わせ F5ソリューションを最適化するためのサポートを受ける 無料トライアル 複数の環境にわたりアプリケーションの安全性、速度、信頼性を確保するこれらの製品を、無料でお試しください。 F5 Distributed Clou
Go 言語での TCP keepalive
Advent Calendar 2020 全部オレシリーズ 10日目です。もうめんどくせえなあ。 gRPC と NLB での Idle Timeout というあるある問題の調査で Go 言語で書いたクライアントとサーバーを使った際に知ったことのメモです。 まずは TCP keepalive を送らないクライアントとサーバーでの動作検証だ、と思って tcpdump を実行しながら試してみたらなぜか 15 秒おきに TCP keepalive を送り合うんです… は！？ そんなコード書いてないのに？？ で、確認してみるとクライアント(Dial)側は Go 1.12 からデフォルトで TCP keepalive が有効になっていたみたいです。1.12 ってもうだいぶ前ですね。keepalive の送信は最後の通信から15秒後から15秒おきに送信します。切断までの連続失敗回数は未指定なので ker
TL;DR ELBはクライアントからのリクエスト時に、クライアントとバックエンドとのコネクション2つを維持する 両方の接続について、アイドルタイムアウト値はデフォルトで60秒となっている バランシング先のNginxなどのKeepAlive Timeout値は、ELBのアイドルタイムアウト値より大きくなければならない もしELBのアイドルタイムアウト値より小さい場合、504 Gateway Timeoutエラーが返ってくる この504エラーはALBのログには書き込まれないので、きちんとALBのステータスコードを監視するべき ELBのコネクション 図にするまでもないが、ELBにおけるTCPコネクションは以下のようになっている。 KeepAliveとは まずはKeepAliveについて振り返っておく。KeepAliveとはクライアントとサーバー間での接続が有効であるかを確認するために一定周期で行
Nginx の KeepAlive を試してみた
Nginx の KeepAlive を試してみた これは何？ Nginx の KeepAlive 、概要は知っていたのですが、理解が曖昧だったので実際に設定を変えたりして、挙動を見てみました。 ✅ この記事で分かること・触れること Nginx の KeepAlive の概要 Nginx の KeepAlive の基本的な設定・動作確認の方法 ❌ この記事で分からないこと・触れないこと Nginx 自体の説明 KeepAlive の詳細な説明 Nginx の KeepAlive とは TCP コネクションを維持する仕組み。 維持している TPC コネクションを、リクエストに使いまわせる。 実際に試す keepalive の設定 参考 http://nginx.org/en/docs/http/ngx_http_upstream_module.html#keepalive 以下の設定を ngi
先日、某所のnginxを1.14系から1.16系に更新したところ、レスポンスタイムが悪化する現象に遭遇したので、その時の対処記録。以下は99percentileと95percentileでのレイテンシのグラフ。 99percentile latency 95percentile latency nginxのバージョンアップでレスポンスタイムが悪化するのを経験したのは初めてのことだったのですが、いろいろ調べてみるとアップストリームサーバとのキープアライブに関する挙動が大きく変わったのが原因で、そのへんのディレクティブの値をちょいと調整することで元のレスポンスタイムを維持できるようになりました。 nginxの1.16系と1.14系の大きな違いの一つとしてkeepalive_requestsディレクティブが従来のhttp, server, locationコンテキストに加えてupstreamコン
ssh でkeepaliveを設定するには | GENDOSU@NET
~/.ssh/config というファイルを作成して ServerAliveInterval 10 ServerAliveCountMax 12 という2行を追加する
もし台湾IT大臣オードリー・タン氏がGoToキャンペーンの指揮を執ったら？｜成田 敦 | KeepAlive株式会社
どうもこんばんみ！KeepAlive代表の成田です。今回はお仕事がらみではありますが、時事ネタということでGoToキャンペーンの在り方についてお話したいと思います。タイトルのオードリー・タン氏ですが、非常にクレバーで広い視野を持つDX人材として注目されていますね。タン氏の直近の偉業については他記事に任せるとして、現在賛否両論が巻き起こっているGoTo事業について彼女が指揮を執ったらどう変わっていたか？妄想してみたいと思います。 GoToに3つの「F」を成立させるタン氏は「Fast（速い）」「Fair（公平）」「Fun（楽しい）」を提唱しています。ここでGoTo事業の「F」について考えてみましょう。現在のGoTo事業に「F」は成立するのでしょうか。答えはNOです。「F」の要素とその構造を紐解きながらタン氏に成りきってGoToを変革するシミュレーションをしてみます。それではいってみましょう。
このエントリは 2020-09-06 に書かれました。 内容が古くなっていたり、もはや正しくないこともありますので、十分検証を行ってください。 Springboot で http keepalive を一定時間で切る方法 golang の net.http で http keepalive を一定時間で切る方法(transport を使い回す) で golang で一定間隔で http keepalive を切る方法を書きましたが、今度は Java 版です。 Springboot で org.apache.http.HttpConnection を使うと、自動的に connection pool が使用され、そこで http keepalive が使用されます(たしか)。 これには都合が悪いことがあるため、一定回数リクエストを行った場合にコネクションを切るようにしてみます。 /** * と
概要 TCP/IPの通信をしているとkeepaliveという機能がでてきます。 有効になってるのかそもそも論どっちがデフォルトなんだとかよくわからないので これを追ってみました。 KeepAliveとは？ TCPの機能でRFC793 に記述されている(ただこのRFC改訂版が出るらしくて新しい番号がつくらしい) こちらに書かれているkeepaliveの実装を概ねこんな感じ 長い間送受信がない状態というアイドル状態の定義 このアイドル接続がアクティブかどうかをprobe segmentを送信して確認する SEG.SEQ = SND.NXT-1 が含まれる この記述はlinuxだと以下に現れる git@github.com:torvalds/linux.git net/ipv4/tcp_output.c net/netfilter/nf_synproxy_core.c netfilter アプリ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
keepalive_requests in upstream context - Qiita
gRPCのkeepaliveで気をつけること - Carpe Diem
【図解】初心者に分かりやすいIPsecの仕組みとシーケンス～パケットフォーマット,DPD(keepalive)について～
gRPCのkeepaliveで気をつけること その２ - Carpe Diem
The tale of keepAlive# — The Glasgow Haskell Compiler
Linux での TCP KeepAlive 有効化方法 | /etc/openjny
Istio で Downstream への TCP keepalive を送る方法
全稼働の9割をテレワーク化、「自宅内通信費」は全額補助！ ワーケーションにも挑戦中 ～ 西田陽介（KeepAlive株式会社 代表取締役）のテレワークスタイル【みんなの在宅ワーク：第46回】
「Node.js 19」がリリース ～HTTP(S)/1.1 KeepAliveが既定で有効化／「Active LTS」は今月下旬に「Node.js 16」から「Node.js 18」へ
SpringBoot2.1のTomcatにkeepaliveのtimeout設定をする｜chatora tips
Oracle DatabaseのKeepAlive設定について | SSJ Tech Lab
TCP keepaliveの値を調整 - rougeref’s diary
NginxのKeepAlive設定と考え方まとめ（Timeout･upstream等 ）
SpringBootにkeepaliveのtimeout設定をする｜サラトガ牧場
pythonのapschedulerでkeepaliveの練習する - Qiita
伊豆・伊東のサテライトオフィスの週末稼働率が80%超、平日ワーケーション利用も順調に稼働、DXコンサルティングのKeepAlive
MagicOnion で gRPC の keepalive 周りの設定を行う方法 - Qiita
SIO_KEEPALIVE_VALS コントロール コード - Win32 apps
ELB使ってる人はすぐにKeepAlive Timeoutの値を確認しよう - Qiita
keepalive_requests in upstream context - Qiita
Springboot で http keepalive を一定時間で切る方法
goのtcp serverでkeepaliveを調べてみた