NLB + Fluentd の構成でファイルディスクリプタが枯渇する謎の現象を解消した話 - Repro Tech Blog
Repro インフラチーム (SRE + 分析基盤) の伊豆です。今回は、Repro のデータ収集基盤で私たちが遭遇した問題を紹介したいと思います。 具体的には、AWS Network Load Balancer(NLB) + Fluentd の構成でファイルディスクリプタが枯渇する謎の現象に遭遇したので、その問題の調査記録と解決策を共有します。また、この問題を解消するにあたり Fluentd に PR を送ったのでそれの紹介もします。 https://github.com/fluent/fluentd/pull/2352 データ収集基盤の構成 Repro のデータ収集基盤はFlunetd High Availability Configをもとに構成され、大まかに次のようになっています。 SDK からアップロードされたデータは、転送用 Fluentd(log forwarders)を経由し
RSTパケットとは｜「分かりそう」で「分からない」でも「分かった」気になれるIT用語辞典
簡単に書くよ RSTパケット（読：リセットパケット 英：RST packet）とは 「一昨日きやがれ！ボケナスがぁ！」パケット（通信用に細切れにされたデータ）のこと。 もう少し真面目に書くと 3ウェイハンドシェイクとかの話で出てくる「諸般の事情により、一回バイバイするね。また相手して欲しかったら最初からやり直してね」な断りの連絡に相当するデータ であり 関係をリセットしたいときに送りつけるデータ です。 ちょっと小難しいけど正確に書くと RSTフラグに1がセットされたパケットのこと です。 順番に見ていきましょう。 まずは予備知識として ・パケット ・3ウェイハンドシェイク ・4ウェイバイバイ について説明します。 「そんなの説明されなくても知ってるよ！」な人は適当に読み飛ばしてください。 パケットは「通信用に細切れにしたデータ」です。 突然ですが、フランスパンを食べるところを想像してみて
curlのオプション--data, --data-binary, --data-raw, --data-urlencodeの違い
-d, --data, --data-asciiは完全に同じ。 --data-rawは@ファイル名の記法を解釈しない。それ以外は-d, --dataと同じ。 --data-binaryは@ファイル名でファイルの内容をそのままPOSTデータとしたい場合向け。 --data-urlencodeはContent-type: application/x-www-form-urlencodedでPOSTしたい場合向けで、以下の5種類の記法に対応しており、=と@の扱いがやや特殊なので注意： content contentをURLエンコードし、POSTデータとする。contentは = または @ を含んではならないことに注意。 =content contentをURLエンコードし、POSTデータとする。先頭の = 自体は取り除かれる。 name=content contentの部分をURLエンコードす
curlコマンドによるデータ送信あれこれ - wagavulin's blog
最近Webアプリを作ることがあって、動作チェックのためにcurlコマンドを色々使った。オプションが色々あって、データ送信の方法に分かりにくいのところもあったので、使い方をまとめてみる。 なぜ分かりにくいか 理由1: 送信方法が色々ある 単にデータ送信と言っても、やり方がいくつかある。Webアプリに対してデータを送る方法は大きく4つあると思う。それぞれの場合に応じたオプションを使わなければ成らない。また、そもそも作られたサービスがどの形式を期待しているかを知っていなければならない。 URLエンコードによるPOST マルチパートによるPOST REST APIでのPOST クエリ文字列 理由2: データの渡し方も色々ある 送るデータを指定する方法もいくつかあり、やはりオプションを使い分けなければならない。 データをコマンド中で指定する データを含むをファイルを指定する name=content
楽しいトンネルの掘り方(オプション: -L, -R, -f, -N -g)
はじめに こんにちはこんにちは！ KMC の魔法少女nona7(nonamea774) です. 最近はクッキーを増やして過ごしています. この記事はKMCアドベントカレンダー2013の9日目の記事です. 昨日の記事はpossumさんの指紋の話でした. さらにこの記事は, KMCアドベントカレンダー2013のサブカレンダーであるSSHアドベントカレンダー2013の2日目の記事でもあります. 日頃SSHに親しんでいる部員による、SSHの基礎知識、ツール、Tips等を紹介して参りますので、初心者の方から上級者の方までご笑覧いただければ幸いです. KMCアドベントカレンダー9日目, SSHアドベントカレンダー2日目の今回は, 楽しいトンネルの掘り方についてのお話をします. トンネル掘ってあっちこっち(Lオプション) 例えば のような, インターネット側からはSSH サーバしか見えなく, SSH サ
NTPサーバーによる時刻同期
ここでは、ネットワーク上のサーバー及びクライアントマシンの時刻同期をとるためのプロトコルであるNTP（Network Time Protocol ）について解説していきます。PCの時刻はマザーボード上のリアルタイムクロック（RTC)によって時間が表示されていますが、この時間はあまり正確ではなく、毎日少しづつ時間が狂っていきます（電池の消耗度にもよりますが、年間約10分程度）。NTPサーバーは、タイムサーバーに接続されたラジオ・クロックや原子時計から時刻を取得し、UTC (協定世界時)に同期させることができます。PCの時刻が狂っていると、メールの送受信時刻が狂ったり、こまめにとっているログの取得時間なども狂ってくることになります。Linuxでは標準でNTPサーバーが付属しているので是非、活用して時刻同期を行いましょう。
Dockerのネットワーク構成 - 映画は中劇
Dockerのネットワーク構成について整理する。 図1: Dockerネットワーク全体図 物理NICが1個ついたDockerホストに2つのコンテナを立てると、図1のようになる。コンテナは172.17.X.Xのネットワーク内にいて、ホスト側には172.17.0.1のIPアドレスが付く。この構成自体は、VirtualBoxで言うところのホストオンリーネットワークと同じようなもの。異なる点として、Dockerネットワークは、ハードウェア仮想化ではなく、Linuxカーネルの機能であるvethペアとブリッジを組み合わせて実現される。 図2: vethペア veth (virtual Ethernet) は、図2のように、仮想NICのペアと、それをつなぐ仮想ケーブルを作る機能。ふたつの仮想NICはイーサネットで直接通信できる。 図3: ブリッジ ブリッジとは、LinuxマシンがL2スイッチ（スイッチン
LinuxのARPとL2スイッチのお話 - masayoshiの日記
この記事は、はてなエンジニアアドベントカレンダー2016の12月19日の記事です。 developer.hatenastaff.com 昨日はid:taketo957くんの 10ms以下のレスポンスタイムを支える継続的負荷テスト - taketo957の日記 でした！ Webオペレーションエンジニアのid:masayoshiです。 2016年に入社後、基盤チームとして仮想化、ネットワーク周りを中心に見ています。 さて、この記事ではLinuxのARPの挙動とその挙動から起こった問題を紹介しようと思います。 長々と記事を読みたくない人向けに結論をまとめるとLinuxのARPはTCP通信で使われ続ける限りキャッシュが飛ばないという挙動になるので、複数のL2スイッチにまたがったセグメントや非対称ルーティングをしている場合は気をつけましょうという話が書かれています。 今回紹介する事例自体は別に新規性
「Working With TCP Sockets」を読んだ · さよならインターネット
大切なことはここにすべて載っています。 Working With TCP Socketsを読んだ - $shibayu36->blog; これも読みました。 電子書籍「irbから学ぶRubyの並列処理 ~ forkからWebSocketまで」EPUB版をGumroadから出版しました！ 100円で完結にまとめられていて最高でした。 コード参考 EventMachine: scalable non-blocking i/o in ruby send(2)のマニュアルページ http://linuxjm.sourceforge.jp/html/LDP_man-pages/man2/sendmsg.2.html ソケットの流れ socket(2) ソケットの生成 bind(2) ソケットとポートの結合 listen(2) 接続キューの作成(サーバ) accept(2) 接続受け入れ(サーバ) s
オレオレRailsアプリを支えるインフラの作り方 - くりにっき
はじめに これは Ruby on Rails Advent Calendar 2014 - Qiita の19日目です 18日目 @yancya さんの Rails でシングルじゃないテーブル継承 - Qiita でした 19日目：オレオレRailsアプリを支えるインフラの作り方 最近では Heroku などのPaaS*1 も普及してインフラのことを知らなくても簡単にアプリを公開することができるようになりました。 しかしトラブルシューティングやパフォーマンスチューニングなどを行うにはアプリケーションコードだけで完結することは少なく、全体像を把握する必要があります。Railsアプリケーションの裏でどんな構成で動いているかを知っておくかは重要なのでざっくりと紹介したいと思います。 書かないこと Railsアプリを作る上でのノウハウ 便利なgemや外部サービスの紹介 *2 監視 アラート検知 モ
インターネット・プロトコル詳説 インデックス ― ＠IT
インターネット興隆の立役者HTTP（前編） 連載：インターネット・プロトコル詳説（1） TCP/IPの上位層、いわゆるアプリケーションの世界では、どのような仕組みで通信が行われているのだろうか？
よくわかるLinux帯域制限 | GREE Engineering
矢口です。 みなさんはLinuxのtcという機能をご存知でしょうか。送信するパケットの帯域制御を行うことができる大変強力な機能で、グリーでもいくつかの用途で使用されています。 具体的な事例の一つはRedisです。Redisではreplicationを新規に開始する際やfailoverが発生しmasterが切り替わった際(特に2.6系)にストアされている全データが転送されます。しかし帯域制限をかける機能がないため、ネットワーク帯域を圧迫してしまう危険性があります。また通常のクライアントとの通信でも大量のクエリにより予想以上の帯域を使用してしまう可能性があります。このような場合にtcを用いることでRedisの使用する帯域をコントロールできます。 このように有用なtcですが残念なことに日本語/英語ともにわかりやすい解説や詳細な情報は多くありません。 私も社内において使われていたtcの設定に問題が
Linuxでネットワークの監視を行えるモニタリングコマンド20選 | 俺的備忘録 〜なんかいろいろ〜
今回は、Linux上でネットワークトラフィックの監視を行えるモニタリングコマンドについて、数あるコマンドから20個を紹介する。 1.iftop 以前にこちらでも書いているiftopは、個別のソケットで受信・送信パケットをひと目で見る事が出来るコマンド。 通信ごとに個別のプロセスを表示させることは出来ないが、どのホストとの接続がどの程度の帯域を使用しているのかはひと目で分かるだろう。 以下のコマンドでインストールが出来る。 sudo apt-get install iftop # Debian/Ubuntuの場合 sudo yum install iftop # RHEL系の場合 2.bmon 『bmon』は、グラフでトラフィックの負荷を表示してくれるモニタリングコマンドだ。 どのNICのトラフィックを表示させるかを上下キー、モニタリングを行うパケットの種類を左右キーで選択する。 このコマン
dig コマンドを理解する - 基本へ帰ろう
dig コマンドをたたくのはいいが内容が読めない・・・。ということで dig コマンドの内容を理解してみる。 digコマンドとは？ digコマンドとは、domain information groperの略で、直訳すると「ドメイン情報の手探りツール」といった意味になります。ネームサーバに対して問い合わせを行い、その応答結果を表示するコマンドで、BINDとともに提供されています。 引用元 => ＠IT：DNS Tips：digコマンドとは ところで、BINDはなんでしょうか。 BINDとは？ BIND（バインド、Berkeley Internet Name Domain、以前の呼名はBerkeley Internet Name Daemon）はインターネットでもっとも利用されているDNSサーバである。 引用元=>BIND - Wikipedia DNSサーバとのこと。 digコマンドの使い方
Vagrantのネットワークが起動しないときは
Vagrantでネットワーク構成を変更した場合など、こういうエラーが出てネットワークが起動しないことがあります。 [default] Configuring and enabling network interfaces... The following SSH command responded with a non-zero exit status. Vagrant assumes that this means the command failed! /sbin/ifup eth1 2> /dev/null このエラーが出ると後続のマウント処理もキャンセルされて不便したので、対策をまとめておきます。 調査した環境 Mac Vagrant 1.1.5 VirtualBox CentOS 6.4 ブリッジネットワークの場合 ブリッジネットワーク構成にした場合、2回目以降の起動時にエラーが
nslookup(dig)テスト【DNSサーバ接続確認】
nslookup(dig)テスト【DNSサーバ接続確認】は、サーバー監視者向けにご提供しています。 ご指定のホストまたはIPアドレスに、当社サーバーでコマンドを発行しDNS情報の取得を行います。 問い合わせるDNSを指定することで、外部（インターネット）からDNS応答が正常出来るか確認することができます。 nslookup slookupコマンドを利用しDNS問い合わせを確認することができます。 dig digコマンドを利用しDNS問い合わせを確認することができます。 「dig」で「PTR（逆引き）」を指定した場合、入力されたIPアドレスをin-addr.arpaに自動変換しコマンド実行します。 ご指定のホスト名(FQDN)にDNS問い合わせを行い結果を表示します。 該当ホストのDNSに実際にアクセスされますのでログが残る可能性があります。 DNS問い合わせ結果取得までに30秒程度かかる場
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
コマンドの出力をそのままcurlでPOSTする - Qiita
AWSネットワークの論理的な側面 ～ AWSのバックボーンネットワークに関するDeepな話（2）
非推奨になったネットワークコマンド養成ギプス : sonots:blog
IDEA * IDEA
