サーバ/インフラエンジニア養成読本「ログ収集〜可視化編」を頂きました！ - oranie's blog
改めて著者の方々と実際に僕に本を送付する手配をして頂いた@yoshi_kenさん本当にありがとうございます。 社内の他のエンジニアが「本頂きました！^^」とかのツイートをしている*1のを見る度に「ブルジョワが！( ﾟдﾟ)､ﾍﾟｯ」とか思っていたらついに僕も貰える時が来るなんて・・・。もう二度とこんな機会はこなさそうなので、保存版として額に入れておこうかと思いましたが、せっかくなので読んでみました。 特集1「ログ解析から始めるサービス改善」 ここではまず「なぜログ解析をする必要があるのか？」「何のためにそもそもやるの？」という事が分かりやすく書かれているかなと思います。特にログは大規模であれば膨大な量や情報を抱える為、やみくもに「これも取ってみよう」「あれも計測してみよう」という事をやっても結局「そもそもなんでこれ必要なんだっけ？」で終わるパターンもあるので、まずここを読んで自分に必要な事
NginxでSSLセッションキャッシュを有効にした際に新規セッションが張れなくなる事象について - oranie's blog
多分Nginxでゴリゴリやっている人ならm9(^Д^)ﾌﾟｷﾞｬｰだろうけど、メモっておく。 サーバサイドでSSL処理をする際に少しでもCPU処理を軽くする＋レイテンシを下げたい目的で ssl_session_cache shared:SSL:128m; ssl_session_timeout 300m;的な設定を入れた所、負荷が高い時間帯に [alert] 14099#0: *1627571 could not allocate new session in SSL session shared cache "SSL" while SSL handshaking, client:〜省略〜というログが出た。ソースコードをほげほげ読んでみると ngx_event_openssl.cのngx_ssl_new_session で記述されている処理でおそらく キャッシュ領域に書き込もうとする 溢れ
色んな会社さんの新人エンジニア研修まとめ - oranie's blog
ちょうど今のチームに新卒メンバーが一人配属になり、「何からやっていこうかー」「今年の研修何教わった？」「今までどんな事やった事ある？」とか聞いている段階だった所にドワンゴさんの新卒研修の記事が流れてきたので、せっかくなので公開されている色んな会社さんの新人研修をメモっておく。なお、見たことがあるやつとか、ちょろっと調べてあくまでも自分と同じ職種に近いやつだけセレクトしているので、気の向いた人は「◯◯エンジニア編」とか作ると良いかもですね！ 他社さんの充実したメニュー見ているだけじゃなくて、うちのチームの配属になったメンバーが「このチームに配属されて良かった」と思えるような事を僕もやらないとですね。 @okb_mさんのまとめブログ Web系会社の新卒研修の内容をまとめた(自分の調べた範囲) 既に去年の段階で似たようなまとめを作られている人が。以下かぶっているのも結構あるので、そこはまあお察し
Cassandra summit JPN 2014でスピーカーしてきました。 - oranie's blog
僕のセッションを聞いて頂いた皆様、主催の@railuteさん、その他にも会場で色々とお世話をして頂いた皆様本当にありがとうございました。正直前半は人数の多さと喋っている目の前でコミッターの@aaronmortonさんや@spycedさん、@AlTobeyさん、@yukimさんなどDatastaxの人達がいてアガりまくっていました。なので、かなりお聞き苦しい所が多々あったかと思いますがご容赦下さい・・・。 発表したスライドはこちら cassandra 100 node cluster �admin operation from oranie 一部直した所があるかも。 今回参加させて頂いて凄い助かったのは同時通訳のシステムがあって、英語の発表も完全じゃなくてもニュアンスまでは理解できたのが凄い助かりました。 ただ、発表終わって話掛けて貰ったのに英語だったので ('A`)「さ、さんきゅー」
MySQL5.6で今までのVerでは問題無かったSQL文がエラーになった場合の対処法 - oranie's blog
追記：記事の文中で5.6のsql_modeデフォルト値について若干実際の挙動と異なる表記をしていました。rpmでinstallすると/usr/my.cnfというのがひょっこりいて、この中に [mysqld] sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES という記述があり、これを/etc/my.cnfと合わせて設定している様です。で、デフォルト値については5.6.6以降はデフォルト値が「The default SQL mode in MySQL 5.6.6 and later is NO_ENGINE_SUBSTITUTION;」でそれ以前のデフォルト値は「MySQL 5.6.5 and earlier, it was empty (no modes set)」となっているようですね。 詳しくは http://yoku0825.blo
cassandraを運用していて困っていること - oranie's blog
※2013/03/05に追記 Yuki Morishita(@yukim)さんより以下のエントリについてアンサーを貰いました！！！ https://gist.github.com/yukim/5086476 - なんか呟いたら「m9(^Д^)ﾌﾟｷﾞｬｰ」な意味なのかRTとかがついたので、まとめておこう。きっと「これやれば解決するのに・・・プークスクス！」って教えて貰えるに違いない。半分くらい僕の技術力の低さから来ているのが多いので、Cassandra特有の問題から外れている気がするけど気にしない。 前提条件として HW：CPU12core メモリ64GB Disk:SSDやHDD(RAID10)を使用（詳細な構成は割愛） Cassandra 1.1.5 JDK 1.6.0_33-1 Simple Strategyを使用 1ノード辺り100〜200GB程度のデータを想定 クラスタの数とかは
僕らが日々使っているproteus-monitorが公開されています＋インストール方法 - oranie's blog
詳しいアーキテクチャなどは今後おいおい・・・なんですが、とりあえず公開されていますよ、という紹介記事です。自分たちで使っているので言うのも何ですが、非常に素晴らしいツールで是非良かったら試してみて欲しいです。 何をするツールなのかというと、agent側で値を取って来てserver側でWeb画面表示させる、という書いてしまえば「ふーん」な感じなんですが、現在これでdstatの値等を取ってきて可視化しています。こんな感じです。とてもシャレオツです。 で、1台や2台だとあんまり威力が分からないかもですが、これが数十台や数百台の運用になってくると ・わざわざサーバにログインして見るとかﾘｰﾑｰ ・cactiやmuninもポーリングしている間隔で取れていないとかがあるので、「今この瞬間の全サーバの状況が知りたい！」という「おやじの全盛期は全日本の時か・・・オレは・・・オレは今なんだよ！」というのに向
新しい会社に入社しました。 - oranie's blog
やあ (´・ω・｀) ようこそ、バーボンハウスへ。 このテキーラはサービスだから、まず飲んで落ち着いて欲しい。 うん、また「同じグループ会社」なんだ。済まない。 仏の顔もって言うしね、謝って許してもらおうとも思っていない。 でも、退職エントリを見たとき、君は、きっと言葉では言い表せない 「こいつ次どこ行くんだ(・∀・)ﾆﾔﾆﾔ」みたいなものを感じてくれたと思う。 殺伐とした世の中で、そういう気持ちを忘れないで欲しい そう思って、あの転職エントリを作ったんだ。 じゃあ、「死ね！」「ふざけんな！」「ブクマとスターを取り消すぞ！」等の罵声以外の注文を聞こうか。 という訳で子会社から親会社に移りました。手続き上一応一度退職しているんですよ！なので、嘘は一つも書いていないよ！ これからも宜しくね！☆（ゝω・）vｷｬﾋﾟ
【チラ裏】退職しました。 - oranie's blog
今日が今の職場の最終出社日です。 今の職場は4年弱勤めたことになります。なぜ職場を変える事にしたかというと、まさかの真・女神転生4が発表されたのでぼくも本気を出す今までの職務としては調整7〜8割、自分で手を動かすのを2〜3割くらいの比率でやっていました。僕自身あまり好きな表現では無いですが、どちらかというと「社内SE」的な感じですかね。（本当に社内SEという単語の意味合っているかは不安ですが） この比率を少し変えて、もう少し技術職でやってみたい＋技術に近い現場で働きたいという考えの為、職場を変える事を決意しました。純粋に技術を追い求めて・・・というよりは、今とは違ったスタイル＋規模により今まで考えなくても良かった事を考えなければいけなかったり、自分達がケアしなくても良かった点を自分達でケアするようになる現場で働く事で総合的により成長出来るかな？という意味合いが強いです。 今の職場では小さな
Jenkinsでcron実行管理をやってみた。 - oranie's blog
とりあえず試したので、実際の内容とかはこちらの参考にしたブログ 「Jenkinsで定期実行するJobを管理したほうが良い３つの理由」 を参照した方が良いと思います。以下は試した内容に画像つけたくらいです。 こんな感じのスクリプトを管理してみる。 Jenklinsの環境構築は割愛します。 「Jenkinsで定期実行するJobを管理したほうが良い３つの理由」 ほんと上記のブログのままです。 # cat /tmp/web_gen.sh #!/bin/bash num=`expr $RANDOM % 100` ab -c 1 -n $num http://www.oranie.org/上記の適当なスクリプトを/tmp/に置いてcron実行して管理してみます。 まずこんな感じで以下の様な設定をしてみます。 失敗するとこんな感じ。 履歴はこんな感じで見れる。 ログも「コンソール出力」で閲覧できる。 で
fluentd Casual Talksで触れたCactiについて良い所にも触れてみる。 - oranie's blog
使っている人はそんなの知っているよ！という話になるので、あんまり新しい話は無いです。どちらかというと「oranieさんって優しいと思っていたのにディスりまくる人なんだ・・・・」って印象を持っている人への言い訳です！あと、本当にCacti詳しい人からしたらツッコミどころ多いかも知れないので、是非指摘したブログ書いて教えて下さい＞＜ Cactiユーザーとして 大体4年ぐらいです。でもそんなに難しい事やっている訳では無いです。コードバンバン弄ったりとか、複雑なプラグイン作ったりとかはしていないです。ちょろっとスクリプト書けば取得できるレベルの事を追加したり、何回か簡単なオレオレテンプレートを作って運用したりです。 まずCactiって何が良いの？ ggrks個人的な感想ですが、サーバが30〜50台までならとても使いやすいと思います。何故かというと、Cactiはセットアップなんてyumでガシガシ入れ
全世界で3人ぐらいの読者の為に弊ブログが見やすくなりましたよ。 - oranie's blog
なんで？ 前から「おめーのブログ見にくい！」とディスられており、少しは良く出来ないかと急に思い立った次第でございます。 で、なんとか出来ないかなーとはてなブログのデザイン弄ったりしたけど、あんまり変わらないし、まあいいやーとか思っていたら @oranie や！そうじゃなくて、インデントとかフォントサイズの使い分けとかそういうのじゃないかなって！抑揚っていうの？ 2012-04-18 00:04:49 via web to @oranie とのアドバイスが！ぶっちゃけ殆どその後も、これでやってみってコード貰ってペタペタ貼りました。 何したの？ はてなブログの管理画面から「デザイン」メニューにあるスタイルシートをいじりました。 gistの操作はこちらのブログを参考に、というか基本モロパクリさせて頂きました。 http://valvallow.blogspot.jp/2010/10/gist-b
fluentd+mongo-plugin+MongoDBでコレクション名にハマったけど、僕がバカなだけでした。 - oranie's blog
fluentd+mongo-plugin+MongoDBでオシャレにログを貯めこんでみようと思いました。 構築はこちらのblogを参考にほぼそのままポチっただけ。 http://d.hatena.ne.jp/wyukawa/20120207/1328625443 まず下準備 fluentdで構造化した場合にログ出しているホストのfluentdでこんなタグを付けているログ。 2012-04-17T19:20:28+09:00 apache_log.hoge_server.192.168.1.10 {〜〜割愛〜〜}まあ、文字列＋数値.数値的なタグで、これを <store> type mongo # mongodb db + collection database apache collection apache tag_mapped # mongodb host + port host loc
Webサーバ勉強会＃5をやりましたよ＆fluentd使ってみた的な話しました。 - oranie's blog
やりましたよ。今回はこれ。 http://atnd.org/events/26493 ■Apache2.4 新機能とかについて ■Varnishについて ■Webサーバログ運用について（主催者の個人的なfluentdブームです。）参加して頂いた方のブログは以下の通り！ id:nappa_zzzさん Webサーバ勉強会#5に参加してきましたよ @xcirさん Webサーバ勉強会＃5でVarnishではじめるESIって発表してきました @do_akiさん Webサーバ勉強会#5 で mod_lua について発表してきました @tagomorisさん Webサーバ勉強会#5にいってきた＆しゃべってきた @yut148 Webサーバ勉強会#5に参加して発表というものを初めてさせていただいた件 ※他にブログとかあげた人は教えて下さい！＞＜ 色々と実際の運用話しとか面白い話が聞けて、またも俺得な感じで
#fluentd fluentd＋fluent-plugin-datacounterでログの可視化が便利すぎてもう死ぬしか無い - oranie's blog
みんな大好きfluentdネタです。というか、fluentd＋fluent-plugin-datacounterが最強過ぎる。 便利すぎて生きているのが辛いどころか死ぬしか無いくらい。 ※そもそもfluentdって何？って人は前のエントリとか読んでみて下さい。 まだ障害発生時の動きとか自分の環境での性能測定とか検証やっていなくてエンジニア的にあれですが。 でも、性能測定とかはhttp://d.hatena.ne.jp/tagomoris/を見ることで充分かなと、えへへ。 今までログの解析は日次で収集していた物をバッチ処理してMySQLにぶち込み、 それをゴニョゴニョして見ていたけど、これがストリーミングで可視化まで一気に出来る。 今の所着手したのはこんな感じ。 Apacheログ関連 とりあえず、ステータスコードとレスポンスタイムをCactiで可視化した。こんな感じ。 ※datacounte
#fluentd include httpを使ったけど、上手くいかなかった。※追記あり - oranie's blog
※次のエントリで解決した内容を書いています。 タグにログを投げる自分自身のホスト名とか付けたくて、それをconfigに書くとか面倒臭いので なんとか出来ねーかなーとかぼやいていたら、 @oranie includeでhttp使って、srcIPによって返すconfigを変えるとか！ 2012-03-12 15:46:35 via YoruFukurou to @oranie @oranie ブログ期待してます。これの一番下の例ですねぇ。 URL 2012-03-12 15:50:14 via YoruFukurou to @oranie @oranie plackアプリで1時間ですよ！ 2012-03-12 15:52:40 via YoruFukurou to @oranie とのありがたいお言葉を頂いたので試してみた。 で結果はタイトル通り上手く行かなかった。 configを返すのはPl
#fluentd fluent-plugin-datacounterがリリースされたので試してみた。 - oranie's blog
タイトルまんまですね。 fluentdを導入する目的で、一番欲しかった物がリリースされて本当に id:tagomorisさん++ です。 プラグインの詳細はこちら。 fluent-plugin-sampling-filter and fluent-plugin-datacounter released! #fluentd で、実際に試してみた結果がこちら。（ほとんどの設定はサンプルまんまですよ。） apacheのログフォーマットはこれ。 LogFormat "%h %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\" %D" combined apacheログを読む為のfluentd configはこれ。 受け取ったログでfluent-plugin-datacounterでゴニョゴニョした結果をログに吐く fluentd con
Apacheのデフォルトconfigを見る時に効率を上げる。 - oranie's blog
id:akuwanoさんが http://d.hatena.ne.jp/akuwano/20120221#1329791289 でブクマを稼いで悔しいので、僕もなんとか無い知恵ひねり出してみて とりあえず今更感満載なコマンドを書いてみる。 基本的に運用するconfigをデフォルト状態から追記するというのは うちのメンバーにはやらないようにお願いしているんですが、 そうは言っても他の会社さんが設定したサーバとかを見る機会もあって、 そういう時にデフォルトのconfigをそのまま追記して使っている状態があるんですよね。 で、そういう時ってコメント行が一杯あるので、見づらい訳ですよ。 そういう時は以下のコマンドを使って見ています。 egrep -v ^\#\|^$ /etc/httpd/conf/httpd.confこうすると、先頭行に#でコメントアウトしている行と空白行は取り除かれるので楽です
Webサーバ勉強会 第4回やりましたよ。 - oranie's blog
Webサーバ勉強会 第4回やりましたよ。 2013/4/18 追記 長らくお待たせしましたが@yoshi_kenさんの資料がアップされました！ Nginxのお話 画像配信・APIキャッシュ利用事例 2011/11/11 Webサーバ勉強会 from Kentaro Yoshida - 前回のエントリに書きましたが内容はこちら。 http://d.hatena.ne.jp/oranie/20111027 2011/11/11というめでたい日に、半年ぶりのWebサーバ勉強会を行いました。 メインテーマは「Nginx」という事で、前半は公式Wiki等に載っている基本的な内容をみんなで分担して発表し、 後半からは実際に運用している人の話を聞く、という理想的な流れでした。 これで、今からNginxの導入しようとする何かの助けや、今の構成を見直す機会にでもなれば幸いです。 参加して頂いた皆様、グダグダ
何回か勉強会を開いて分かった、たった一つの事 - oranie's blog
まあ、タイトルは良くある系ですね 今日ちょっとTwitterで某有名な会社さんの合同勉強会が開催されるというのがあり、その流れで ネタだと思いますが「勉強会に参加するための勉強会はまだですか！」というのが流れてたので、 昔やった「IT勉強会の勉強会」 http://atnd.org/events/3137 http://d.hatena.ne.jp/oranie/20100209/1265684277 http://d.hatena.ne.jp/oranie/20100305/1267758843 http://d.hatena.ne.jp/oranie/20100314/1268576154 というのを思い出しました。 で、ネタにマジレスなんですが今ある勉強会に行くのが ・良く分からないから怖い＞＜ ・時間が合わない＞＜ ・場所が遠い＞＜ とかの諸事情で行けなかったり気後れしていたら、ぶ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
