ssmjp 201712 はたのさん祭での「運用自動化、不都合な真実」の発表資料です。 詳細: https://www.opslab.jp/publish/20171212-ssmjp-automation.html (運用設計ラボ合同会社 波田野裕一)
![運用自動化、不都合な真実 // Speaker Deck](https://cdn-ak-scissors.b.st-hatena.com/image/square/35f17586943a32f8093b8e559afaba1021105e2d/height=288;version=1;width=512/https%3A%2F%2Ffiles.speakerdeck.com%2Fpresentations%2F6634730e30fa436ebd0a919f3b293fed%2Fslide_0.jpg%3F9158891)
主にアプリケーション開発者向けに、Linuxサーバ上の問題を調査するために、ウェブオペレーションエンジニアとして日常的にやっていることを紹介します。 とりあえず調べたことを羅列しているのではなく、本当に自分が現場で使っているものだけに情報を絞っています。 普段使っているけれども、アプリケーション開発者向きではないものはあえて省いています。 MySQLやNginxなど、個別のミドルウェアに限定したノウハウについては書いていません。 ログインしたらまず確認すること 他にログインしている人がいるか確認(w) サーバの稼働時間の確認 (uptime) プロセスツリーをみる (ps) NICやIPアドレスの確認 (ip) ファイルシステムの確認(df) 負荷状況確認 top iostat netstat / ss ログ調査 /var/log/messages or /var/log/syslog /
はじめに ここ数日でブログに少し手を入れたので、現時点の備忘録です。内容的には半年前に四苦八苦した部分がほとんどですが、超オーソドックス設定なので、まとめておいて損はないでしょう。 なお、うちでは1日5万PV以上が出なくてテストできないだけで、たぶんもう少しは捌けます。 事の起こりは一年前。ブログを一新する際に日和ってWordPressを選択したのですが、計算してみるとピークに3PV/秒越えると発狂する計算に。あれ? まがりなりにもVPSをほぼ丸々割り当ててるので、個人レベルのブログなら鼻歌交じりに処理できるとか思ってたんですが、PHPのメモリの喰い方とApacheのデフォルト設定のアホさを嘗めていました。 その後、いろいろとありながらも安定運用には到達したので、何かあった時に再現出来るように書き残しておきます。 環境:さくらのVPS 1Gプラン Debian squeeze + Apac
昨日のPinterestの記事「Pinterestの急成長を支えてきたアーキテクチャとは? Pythonで開発しAmazonクラウドで運用」に続いて、やはり写真を中心としたサービスで急成長してきたInstagramのスケーラビリティについて、まとめてみました。 InstagramもPinterestと同様に、基本はAmazonクラウド上でPythonとフレームワークのDjangoを使ったシステムを構築しています。興味深いのは、創業者の二人ともバックエンドの経験がないなかで試行錯誤をしてシステムをスケールさせてきた点です。 Instagramは先月、Facebookに買収されると発表されています。この先、Instagramのシステムはどう変わっていくのでしょうか。 Instagramのシステム構成 約半年前、昨年12月にInstagramのブログに投稿された記事「What Powers In
こんにちは、ネットワーク事業部オペレーショングループの後藤です。 データホテルのサービスを担っているオペレーショングループでは、サーバセットアップ時にセットアップの効率化と正確性を図るため、予め先代たちが築きあげてきたセットアップ用のスクリプトを使用しセットアップ作業を行うことが多々あります。 セットアップとは、OSのインストールからミドルウェアの構築まで、顧客のご要望に沿った形でサーバを造りあげて引き渡すまでのことを意味し、各々顧客に合わせたセットアップ方法にて作業を行っております。その一連の流れの中から、OSインストール後のできたてホヤホヤのサーバに対して行っている、あることを取り上げてみたいと思います。 ◇日次バックアップ データホテルではレンタルサーバとして提供しているサーバに必ずディスクが2本以上装填されております。これはデータホテルのバックアップ方法の一つとして、日次で同一サー
やはり一番重要なのは「データ」ファイルであり、それを簡単にバックアップするためには、専用のディスクを割り当てるのが一般的だろう。従って、以下の鉄則を得る。 鉄則1: mount /dev/sdb1 /data device 名は環境に依存するが、mount point は /data しかありえない。だってシンプルだから。うん間違いない。名前重要!もちろん忘れずに、アプリが利用するデータディレクトリの格納場所は /data 以下にしておく。このような「データ」ファイルの隔離は、OSを入れ替える時の可搬性としても非常に優秀で役立つのだが、件の復旧を考えると、これだけでは不十分である。「設定」ファイルを復活させるのも意外と大変だからだ。そこでぱっと思いつくのが、 大事そうな設定ファイルを /data への symlink にする /etc 自体をもう /data への symlink にする
21. スペック (約5万円) マザーボード GA-MA785GM-US2H CPU Athlon II X4 605e (TDP45W) メモリ DDR2-800 8GB (ECC無し) HDD HTS545016B9A300 (2.5inch 160GB) 電源 KRPW-V400W
2. アジェンダ • パフォーマンスと初期設定 • データベースの監視 • 性能劣化とメンテナンス • パフォーマンスチューニング(GUC編) • パフォーマンスチューニング(SQL編) • バックアップ&リカバリ 本日の資料は http://slideshare.net/uptimejp にアップしてあります。 Copyright 2009 Uptime Technologies LLC, All rights reserved. 4. PostgreSQLプロセス構造 • PostgreSQL 8.4の場合 [snaga@devpg01 ~]$ ps -aef | cat | grep ^snaga snaga 5282 1 0 20:15 tty1 00:00:00 /usr/local/pgsql/bin/postgres - D ./pgdata snaga 5283 5282
ZFS は本当にメモリ喰いだ。FreeBSD でも最低 1GB のメモリを推奨している。FreeBSD では、カーネルへのメモリの割当が多くはなっていないので、ZFS を使うには調整をしてやる必要がある。 カーネルに 1GB ものメモリを割り当てるので基本的には amd64 などの 64bit 環境が推奨だ。しかし、i386 などの 32bit 環境でもメモリの割当てを増やすと安定して動いている。ZFS Tuning Guie が、沢山の人の試行錯誤から作られた。これは FreeBSD 7 系を基に作られたもので、8 系にもそのまま当てはまるものも多いが、KVA の限界など改善されたものもある。 調整のやり方は大きく分けて二通りになる。カーネルにメモリを大きく割り当てる方法と ZFS のキャッシュを少なくする方法になる。 カーネルに大きくメモリを割り当てる vm.kmem_size="15
マイクロソフトがアイルランドのダブリンに最新のデータセンターを建設したと、先日の記事「マイクロソフトも最新型の冷房なしデータセンターを完成、グーグル追撃!」でお伝えしました。 このダブリンのデータセンターは、面積が約2800平方メートル(約30万3000スクエアフィート)。これは東京ドームのグラウンド約1300平方メートルの2倍以上です。 設置されるサーバの台数は不明ですが、同社がダブリンとほぼ並行してシカゴに建設していたデータセンターは約50万台のサーバが設置されると、日経コンピュータの中田敦記者が推測しています。ダブリンのデータセンターはシカゴの約半分程度と発表されているので、20万台程度のサーバが設置されるのではないかと推測して話を進めましょう。 従業員はたったの35人? この、東京ドームのグラウンドの2倍の面積、約20万台のサーバが設置されたダブリンのデータセンターで働く従業員は何
strace システムコールをトレース。カーネルと何を話しているか。 strace -p PID でプロセスにアタッチ。実行中のプロセスをトレース。 straceを使ったデバッグ - SourceForge.JP Magazine : オープンソースの話題満載 Linuxカーネルの作り出す世界 − @IT自分戦略研究所 - ふつうのLinuxプログラミング 青木峰郎 システムコールとライブラリ関数 − @IT自分戦略研究所 システムコール・ライブラリルーチン - UNIX の部屋 ltrace 共有ライブラリの呼び出しをトレース。*.soと何を話しているか。 ltrace -p PID でプロセスにアタッチ。実行中のプロセスをトレース。 ltrace で共有ライブラリの関数呼び出しをトレースする - bkブログ 404 - エラー: 404 - Linux JF ƒ‰ƒCƒuƒ‰ƒŠ‚ÌŠ
ここ数年の大規模サービスのシステム運用について調べてみたので参照したページやファイル、本へのリンクをまとめておく。PDF へのリンクも多数含まれているのでご注意を。 時代が時代なら企業のノウハウとして隠されていたような情報がこれだけ公開してもらえているというのが非常にありがたい。公開してくれている各企業や公開してくれている人に感謝。 あとで気付いたが、Google や Facebook の事例も探しておけばよかった。Thrift とかあったのに。「こんな情報もあったよ」などあればぜひ教えてください。追記していきます。 youtube http://d.hatena.ne.jp/stanaka/20070427/1177651323 digg http://d.hatena.ne.jp/stanaka/20070427/1177651323 livedoor http://labs.cybo
最新文章 2018-12-25 21:04▪ 多部门联合调查江西九江占用湿地违规开发 2018-12-25 21:04▪ 嘉定区体育局领导走访调研外冈镇企业 2018-12-25 21:04▪ 从“宝岛故事”到“上海传奇”——三位沪上台商的改革开放亲... 2018-12-25 21:04▪ 上海市临港试点区海绵城市建设情况 2018-12-25 21:04▪ 上海市临港试点区海绵城市建设情况 2018-12-25 21:04▪ 当地民政局回应:“恩施州城60条道路集体更名”并非终结版 2018-12-25 21:04▪ 税务总局:明年1月工资未申报个税专项抵扣可之后补扣 2018-12-25 21:04▪ 《希望的田野:拉林河畔》:媒介影像记录农村发展新气象 2018-12-25 21:04▪ 南宁“两客一危一货”2018年已致236人死亡(图) 2018-12-25 21:04▪ 感冒
こんにちは satoです WEBサービスは作るよりも運用の方がコストがかかるとも言われています。 運用を極力自動化して、コストを減らしたいものです。 ここではウノウで使っているツール類を紹介したいと思います。 1) 疎通、生存監視 webの生存監視などは nagiosを使って監視しています。 nagiosには - いつ(土日を除く、10時~22時までの間で など) - どのタイミングで(N回連続で ,復旧したら など) - 何が起こったった時に(疎通が取れない など) - どうするか(メールで通知する) などを細かく設定できる監視ツールです。 ウノウでは MySQL、memcached、HTTP、ping、DNS、SMTPなどの監視をnagiosで行っています。 2) システムやアプリケーションLOG ログの監視には swatch を使用しています swatchの機能には -
個人情報保護法やら何やらの件で、今まで余裕ぶっこいてあまり真面目に考えていなかったWindowsマシンのログもいちおう取っておこうかなという気になった(笑) 仕事関係の中核マシンは監視の絡みもあるので、Snareみたいな仕掛けを使って比較的しっかり作っているのだが、さほど重要度の高くないWindowsサーバはほとんどローテートするに任せていた。 ようするに何もしていなかったわけである(爆) これだとイザという時困るかも…ということで、せめてバックアップくらいは取って置こうかと思ったわけである。 どんな時がイザという時なのか…と問われると、よくわからんのだが(笑)。 イベントログファイルは、リソースキットツールのDumpel.exeとかElogDmp.exeなどでもエクスポートできるが、パージといっしょに行いたかったので、WMIを使ったスクリプトを用意した。 実際には纏めて圧縮アーカイブした
ここは システム管理ツール puppet の日本語情報 Wiki です。(通称パペウィキ) 関連リンク 本家サイト ソースコードリポジトリ mizzy.org 内の puppet 関連エントリ Tomoyuki Sakurai 氏による OSC2007 発表資料 「オープンソースによるシステム管理の自動化」(PDF) だ!日記 - タグ: puppet オープンソースなシステム自動管理ツール Puppet Wiki 編集について この Wiki はどなたでもご自由に編集できますが、スパム防止のためにログインが必要です。ユーザ名 puppet 、パスワード reductive でログインして編集を行ってください。 また、個別アカウントを発行させて頂くことも可能です。ご希望の場合は、ユーザ名・パスワードを htpasswd -nd でハッシュしたものを gosukenator at gmail
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く