実践的インフラ監視＆運用 - 4000万人以上のユーザーに快適なサービスを提供するピクシブの裏側 - エンジニアHub｜Webエンジニアのキャリアを考える！
実践的インフラ監視＆運用 - 4000万人以上のユーザーに快適なサービスを提供するピクシブの裏側 大規模サービスを安定運用するコツってなに？実運用に基づく知見をピクシブ株式会社のインフラエンジニア、末吉さんと小出さんに聞きました。 ピクシブのサービスを支えるサーバーは大部分がオンプレミス 監視はNagiosとMuninでシンプルに 多数のリリースを支える独自のデプロイ手法 運用上のスペックは開発者との綿密なやりとりで決める 開発者と“温度感”を共有したい システム運用は、生き物です。 人気が出ればリクエスト数は急上昇。経年劣化でサーバーが壊れることもある一方で、次々と新しいサービスも展開しなければなりません。規模が大きくなると、システムを障害なく運用することは至難のワザです。 大規模サービスを安定運用するコツは何か──その秘訣を探るべく、ピクシブ株式会社のインフラチームで活躍する2人に疑問
いま知っておきたいLinux─WebアプリがOSのプロセスとしてどのように見えるか？ を運用に生かす｜ハイクラス転職・求人情報サイト AMBI（アンビ）
いま知っておきたいLinux─WebアプリがOSのプロセスとしてどのように見えるか？ を運用に生かす Webアプリを動かして負荷をかけると、OSのプロセスという観点ではどのように見えるのでしょう？ それを通して運用やトラブルシューティングではどういったことが分かるのでしょう？ Linuxカーネルの開発者でもある武内覚（sat）さんによる解説です。 こんにちは、sat（@satoru_takeuchi）と申します。 コンピュータが誕生してから現在まで、最終的にエンドユーザが意識するアプリケーション開発はどんどん楽になっています。先人たちのたゆまぬ努力の結果、アプリ開発者はOSや、そのさらに下にあるハードウェアのことをほとんど意識することなく開発ができるようになりました。 しかし、「作ったアプリが、OSレベルでどのように動いているか？」が今一つピンと来なくて、モヤモヤしていないでしょうか。それ
EPYCマシンの検証(2) - NUMAノードをまたぐメモリアクセス速度 - Cybozu Inside Out | サイボウズエンジニアのブログ
はじめに 技術顧問のsatです。前回に引き続き、EPYCマシンの検証についての話をします。手元のEPYCマシン(Super Micro AS-1023US-TR4)はNUMAアーキテクチャ(後述)を採用してます。今回はこのマシンにおけるNUMAノードをまたいだメモリアクセスに関するデータを採取しましたので、その結果をお伝えします。 NUMAについて知っているかた向けの結論 2CPUパッケージから成るEPYCマシンにおいては、CPUパッケージごとに4つのノード、合計8つのノードがある 同じCPUパッケージ上のリモートノード上のメモリへのアクセス速度はローカルノード上のメモリへのアクセス速度に比べて1.7倍程度遅い 別のCPUパッケージ上のリモートノード上のメモリへのアクセス速度はローカルノード上のメモリへのアクセス速度に比べて3.3倍程度遅い (記事では省略したが)"numactl --in
unisonによる2台のサーバ間でのファイル同期 - @uzyexe のノート
DRDBのようなリアルタイム同期を使うほどではないが、2台のLinuxサーバ間で一部のファイルを同期したいときがある。そのようなときに自分はunisonを使う。 unisonは非同期的にファイルを2台のサーバ間で同期するためのツールです。rsyncとは異なり、あらかじめ同期したいディレクトリやファイル名を設定ファイルに登録しておき、同期を必要とするときにunisonコマンドを実行すると2台のサーバ間で予め同期登録していたファイルが同期されるというセミオートマティックな仕組みが実現できます。 unisonのインストールは以下の手順で可能です。 ■ RHEL/CentOS yum install unison ■ debian/Ubuntu sudo apt-get update && apt-get install unison ■ freeBSD cd /usr/ports/net/uni
第22回 「syslog-ng によるセキュアなログサーバー構築」
apt-get してインストールする。と、ざっくりいきたいところだけど、シミュレーションすると syslog-ng をインストールする代わりに、sysklogd と klogd をアンインストールしてしまうみたいだ。/etc/syslog.conf を全くいじっていない場合は、置き換えられても問題ないようにはできている。だが、カスタマイズしている場合は、取得できないログが発生する可能性があるので、基幹部分のサーバーなどにインストールする場合は、予めテスト環境を作成し、検証しておいた方が良いだろう。なお、新規にdeb パッケージをインストールしようとしたが、sysklogd とconflict し、インストールすることはできなかった。
SSL/TLS（SSL3.0～TLS1.2）のハンドシェイクを復習する
以下順を追って説明します。 HelloRequest 相手にClientHelloを送信するよう促すメッセージです。送信しなくても構いません。 ClientHello ServerHello ClientHelloとServerHelloは、TLSのひとつめの肝です。後ほど説明します。 ServerCertificate サーバ証明書を送信します。中間CA証明書なども、ここで送ります。 ServerKeyExchange 鍵交換メッセージその１です。鍵交換はTLSのふたつめの肝で、これも後ほど説明します。 CertificateRequest クライアント証明書を送信するように促すメッセージです。クライアント証明書が必要な場合に送信します。何そのクライアント証明書って？と思った方は読み飛ばして構いません。 ServerHelloDone サーバからの送信終了を示すエンドマークです。 Cli
Task-centered iproute2 user guide
# Overview of iproute2 iproute2 is the Linux networking toolkit that replaced net-tools (ifconfig, vconfig, route, arp etc.). Most of the networking functionality is unified in the ip command. There’s also tc for managing traffic policies (QoS), and ss (a netstat replacement), but this document is focused on the ip part. iproute2 was originally written by Alex Kuznetsov and is now maintained by St
輻輳制御の新アルゴリズム TCP BBR を GCP に導入 | Google Cloud 公式ブログ
私たちはこのほど、インターネット トラフィックの帯域幅を広げ、レイテンシを低減する最先端の輻輳制御アルゴリズム、TCP BBR を Google Cloud Platform（GCP）に導入しました。TCP BBR は、google.com からの TCP トラフィックで使われ、YouTube ネットワークのスループットを全世界平均で 4 %、一部の国では 14 % 以上引き上げたのと同じ BBR です。 私たち WP Engine のデジタル エクスペリエンス プラットフォーム上で稼働する 50 万の WordPress サイトは、BBR のおかげで驚異的な速さでロードできるようになりました。Google のテストによれば、BBR のスループットはこれまでベストだった loss-based 輻輳制御の 2,700 倍に達し、キューイング遅延は 25 倍も下がっています。私たちが GCP
Redis 本番障害から学んだコードレビューの勘所
Redis不適切利用による問題は本番運用が始まってから顕在化することが多く、時限爆弾みたいな存在です。事前に防ぐにはコードレビュー段階で叩くしかありません。 Redisはスクリプト言語と相性が良く、適切に利用するとRDBと比較し驚くほど高速なプログラムを組むことができます。昨年尊敬する先輩にコードレビューで斧100本くらい(レビューコメント)投げられて血まみれになりつつ学んだことを、まとめて書いてます。概要は『消えても良いデータならRedis』 Redisのメモリが溢れたら... （この話は事実ではなくファンタジーです。） 深夜電話で叩き起こされました。どうやらアクセス障害みたいです。 何人かで実機確認したら、まったくゲームが遊べない。データ不整合怖いのでメンテIN。 ほどなくしてRedisが溢れメモリ不足で新規書き込みが出来なくなっていると判明。サーバのメモリ容量は64GByteでこれ以
CentOS 6.3 x86_64のインストール(RAID1) – ＩＴわかり隊
1 views 実現する機能 CentOS(The Community ENTerprise Operating System)を使って、 世界の中心で愛を叫ぶためにウェブ・サーバーを構築し、 使用している複数のメールアドレスを一括管理するためにメール・サーバーを構築し、 Windows搭載のノートパソコンを無線LANで使う妻と子供二人のために大量の動画を保存できるWindows用のファイル・サーバーを構築し、 ノートパソコンが壊れたときでもデータを守るためにバックアップ・サーバーを 一台のCentOS搭載パソコンで構築しました。 サーバーを二重化したいのですが、我が家も赤字財政なのでハードディスクだけRAID1（ミラーリング）で二重化してあります。これが功を奏したことはまだ一度もありませんが・・・。 事前準備 ■容量の同じハードディスクがふたつ必要です。ハードディスクの故障でデータが喪失
Facebookはレイヤ4ロードバランサをIPVS(LVS)からXDPベースのものに乗り換えつつある - yunazuno.log
4月に開催されたnetdev 2.1で面白いセッションがあったのでメモ。 Facebookが使用しているレイヤ4のロードバランサに関する発表で、従来はIPVS (LVS) を使用していたが、XDPベースで自ら開発したものに移行しつつある、という内容。 XDP Production Usage: DDoS Protection and L4LB (slide) www.youtube.com XDP (eXpress Data Path) については以前のエントリで簡単に紹介した。 yunazuno.hatenablog.com XDPを改めて簡単に紹介すると、Linuxカーネルのネットワークスタックの最下部 (NICに一番近い場所) でパケット処理を行う仕組みのことで、オーバーヘッドが非常に小さい高速パケット処理の実現を目的としている。XDPはeBPFを用いており、eBPFが提供するmap
SSHサーバへ接続出来ない・遅い時の原因と対処法 | 俺的備忘録 〜なんかいろいろ〜
先日、仕事でサーバの環境変更を行っていた時にSSHに接続できなくなったので、備忘として残しておく。 UNIX系のOSに接続する際は、基本的にSSHでの接続を行う事が多いと思うが、その接続ができなかったり、接続が遅い時の事象と原因、対処方法を記述する。 なお、この対処法は以下の確認ができている事が前提。 Pingが通っていること(SSHサーバは疎通が取れる状態であること) SSHで利用するポートが開いていること(iptablesなどのファイアウォールでポートが閉じられていないこと) sshdサービスが起動していること ユーザ名・パスワードが間違っていないこと ログインの認証方式が正しいこと(チャレンジレスポンス認証にプレーンテキスト認証で接続を試みていないことなど) 1.DNSへ接続できない状態で、IPアドレスの逆引き設定が有効になっている おそらく、一番よくあるのがこれではないだろうか。S
【svn】基本コマンド - Qiita
svn merge -r 999:HEAD {url}/branches/hoge svn ci -m 'merge message' merge内容を確認 実際にmergeは行われず、mergeした場合の内容が表示される 基本的には--dry-runを走らせてから、mergeを行う
Linuxサーバー(実機orVM)にDNSやhostsファイルを使わずにホスト名でアクセスする(開発のプロならではの工夫！) - Qiita
Linuxサーバー(実機orVM)にDNSやhostsファイルを使わずにホスト名でアクセスする(開発のプロならではの工夫！)WindowsLinux開発環境vmwareCygwin Linuxサーバーを立てて開発用Webサーバー等として運用することがありますよね。 その際に、そのLinuxサーバーのホスト名によるアドレス解決をここで紹介するある方法で行うことがよくあります。 主に、開発用の端末としてWindowsマシンを使う現場でのことです。そこでは「NetBIOS over TCP/IP」という技術を用いています。昔からある、WindowsマシンがLAN内の他のWindowsマシンを見つけたり接続(アクセス)したりするための技術です。 Linuxのディストリビューションによって微妙に設定方法(コマンド等)が異なりますので、Ubuntu 16.04 LTSを例にとって手順等をご紹介します。
Netflix at Velocity 2015: Linux Performance Tools
There are many performance tools nowadays for Linux, but how do they all fit together, and when do we use them? At Velocity 2015, I gave a 90 minute tutorial on Linux performance tools. I’ve spoken on this topic before, but given a 90 minute time slot I was able to include more methodologies, tools, and live demonstrations, making it the most complete tour of the topic I’ve done. The video and sli
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Integrated Dell Remote Access Controller 9 Version 3.21.21.21 User's Guide | Dell 日本
1.3. 仮想化のパフォーマンスの機能と改善 Red Hat Enterprise Linux 7 | Red Hat Customer Portal
6.2. vhost-net の無効化 Red Hat Enterprise Linux 7 | Red Hat Customer Portal
Fate/Grand Orderにおける、ディライトワークス流 AWS 導入&活用術
cURL と libcurl を使ってインターネット経由でやりとりする