インフラがコードを書いて監視ツールを作った話 - ぐるなびをちょっと良くするエンジニアブログ
こんにちは。ぐるなびのインフラを担当している湯原です。 ぐるなびは食に関する数多くのサイトを展開しており、私たちインフラ担当はこれらのサイトインフラの構築と運用を行なっております。 システム運用において「監視」というキーワードは、担当者にとってはとても重要な要素になるかと思います。 以前の監視システムでは、サーバが増えるたびに監視担当者に依頼を行い、監視登録を手動で行う運用がされていましたが、ぐるなびサイトの成長とともにリリーススピードも早くなり、対応できなくなってきました。 そのため、新しい監視システムを自分たちで作りました。今回はその設計から実装、運用までの取り組みについて紹介させていただきます。 設計フェーズ システム監視というと世の中にはさまざまなツールが存在します。ZabbixやNagiosといったツール類が有名ですね。 真っ先にどのツールを使うかといったツール選定に目が向きがち
Infraengineer In The Datacenter
Sakura Cloud is a service developed and released in 2011. We use InfiniBand, witch is rare as an Internet service and it is used for connection between server and storage. In this presentation, we will briefly introduce the configuration of the system and explain the reasons and usage if InfiniBand. We are going to introduce operational comparisons and meris demerits with the services provided by
Rundeck - cronから移行しやすいジョブスケジューラを使ってみよう
こんにちは。斎藤です。 最近、Dockerなどのコンテナ型仮想化技術、Chef, Ansible, Itamae などによるITインフラ構築・運用自動化技術の利用が進んでいます。一方で、何年も動いて「歴史」を積み重ねているシステムも数多くあります。そして、私を含めてそれらの運用に関わる事もあるでしょう。そんな「歴史」のあるシステムも、何とか運用を効率化したいと思う事があるかもしれません。 今日は、バッチジョブや複数サーバに対する運用を効率化するRundeckを取り上げます。「何ができるの？」「はじめかた」そして「利用時の留意点」の3点についてお話しします。 ※OSはCentOS 6系、Rundeck はバージョン 2.4.0、Java VM は Oracle JDK 1.7.0_72 を利用しています。 cron。Linux系OSに標準搭載されているジョブスケジューラです。標準で使えるため
インフラエンジニア向けシステム系論文 - ゆううきブログ
この記事ははてなエンジニアアドベントカレンダー2014の23日目とシステム系論文紹介 Advent Calendar 2014の23日目を兼ねています。 今回は、インフラエンジニア向けにシステム系論文を読むということについて書きます。 ここでいうインフラエンジニアは、Webサービスを作る会社のサーバ・ネットワーク基盤を構築・運用するエンジニアを指しており、はてなではWebオペレーションエンジニアと呼んでいます。 人が足りなくて普通に困っているので採用にご興味のある方はぜひこちらまで。 SRE (Site Reliability Engineer) 職 - 株式会社はてな はてなでは、id:tarao さんを中心に有志で論文輪読会を定期的に開催しており、システム系論文にかぎらず、言語処理系、機械学習についての論文などが読まれています。 だいたい１人でインフラまわりの論文を読んでいて、インフラ
【6/22報告】5月30日からの断続的な障害につきまして|ニコニコインフォ
ニコニコ各種サービスにおいて、2018年5月30日から2018年6月12日まで、複数回の障害を発生させてしまいました。ご迷惑をおかけして申し訳ありませんでした。 6月12日までに発生した障害について、障害の内容と再発防止策をお知らせします。 ※社内サービス名などの社内用語は一般的な言葉に置き換えています。 5月30日【ユーザーフォロー】ユーザーフォローに失敗する 等 ■ 障害発生時間 2018年5月30日14時30分ごろ ～ 2018年5月30日19時40分ごろ ■ 障害の発生したシステム リレーションデータベース基盤 ■ 障害の影響が波及したシステム ユーザーフォロー基盤, 通知連携基盤 ■ 障害の内容 特定のユーザーによる攻撃的なアクセス（過剰なユーザーフォロー状態の操作）によって、ユーザーフォロー基盤が利用しているリレーションデータベース基盤が過負荷状態に陥りました。 その結果、ユー
ネットワークセキュリティの新常識――侵入前提の対策と早期検知が鍵｜BUSINESS NETWORK
サイバー攻撃の高度化や企業ネットワークの肥大化により、感染のリスクはかつてないほど高まっている。侵入を前提に、早期に検知し被害を最小限に食い止める対策が求められる。 サイバー攻撃による被害は、国内でも年々拡大している。トレンドマイクロによると、2016年の1年間に重大な被害に遭った国内企業・自治体は約42％にのぼり、平均被害額は2億3177万円と過去最高を記録した（「法人組織におけるセキュリティ実態調査2017年版」）。 サイバー攻撃は以前からずっと存在し続けているわけだが、攻撃の高度化・巧妙化に加えて、様々な環境変化により、脅威が深刻化している。 昨今猛威を振るっているランサムウェア（身代金を要求するマルウェア）を例に取ると、最初に出現したのは1989年と30年近く前に遡るが、大規模な被害が観測されるようになったのは数年前からだ。理由の1つに、窃取しても警察などに追跡されにくい仮想通貨が
Yahoo! JAPAN Tech Conference 2018 のスライドを公開します
ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog Yahoo! JAPAN Tech Conference 2018 を1月27日に開催しました。多くの方にご参加いただき、大盛況のうち終了することができました。ありがとうございました。 当日のスライドを公開しました。 基調講演 Shape the Future - through the Power of Technology Room A A-1 データセンターネットワークの取り組みと大規模サーバインフラの戦略 A-1 データセンタネットワークの取り組み (村越 健哉) A-1 大規模サーバインフラの戦略 (藤見 和英) A-3 Yahoo! JAPANを支える開発基盤 PaaS A-3 Yahoo! JAPANを支える開発
Open Compute Project｜Facebookが設計したハードウェアであるOpen Compute ProjectとOpenStackなどのオープン＆スタンダードな技術を組み合わせた次世代ITインフラ「Open Cloud Package」をご提案します。《概要》 | CTC - 伊藤忠テクノソリューションズ
OCPの仕様に準拠した機器をラッキングするためにはOCP専用のラック（OpenRack）を利用します。汎用IAサーバーはサーバー本体にパワーサプライ(電源装置)を個々に搭載していますが、OCP専用ラックであるOpenRackではサーバーが個々に持つパワーサプライをラックレベルに集約し、集中電源にてAC-DC変換を一括で行い、バスバー経由で各機器に電源を供給します。 パワーサプライの特性として変換効率は高出力状態になればより高い変換効率になります。現在の多くの汎用IAサーバーは冗長構成が取れるものが多く、冗長構成の場合、常時2台のパワーサプライが稼働するため高出力状態になった場合でも各パワーサプライにおける出力状態は最大でも50%になります。 それに対し、OCPのOpenRackに搭載されている集中電源ではサーバーが個々に持つパワーサプライをラックレベルで集約するため、高出力状態になり高い変
ハイパーコンバージドインフラストラクチャー（HCI）とは
ハイパーコンバージドインフラストラクチャー（HCI）は、一般的なx86サーバにコンピューティング機能とストレージ機能を統合し、シンプルな構成を実現した仮想化基盤です。そのHCIに仮想化基盤の運用に必要なソフトウェア製品も加えてパッケージ化した商品が、次世代の仮想化インフラとして注目を集めています。 より簡単に仮想化インフラを利用したいというニーズから誕生仮想化技術の発展は、企業のICTインフラに大きな変革をもたらしました。仮想化は、サーバやストレージなど物理的な構成を論理的に扱えるようにして、ICT基盤をリソースプールとして使用可能にする技術です。例えば、サーバ仮想化では、1台の物理マシン上で複数の仮想マシン（VM）を稼働できます。仮想化により、リソースの効率的な活用、ハードウェアの初期投資コストの抑制、省電力・省スペースといった多くのメリットが得られます。 最近では、ビジネスの成長スピー
オンプレ経験ゼロのインフラエンジニアがDMMを選んだ理由 - DMM inside
QA・品証、PHPエンジニアを経て、AWSエンジニアにクラスチェンジ。現職ではDMM Okanの構築・運用やオンラインサロンの開発に従事。カンファレンスカメラマンとしての活動とクラフトビールが趣味。 こんにちは、人事部の星野です。 DMMでは" AWS実弾演習場 "というエンジニアをサポートする制度が導入されており、パブリッククラウドが各所で使われています。先日行われたDMM meetupでそんなパブリッククラウドで新規サービスの開発に携わるエンジニアが「オンプレ経験ゼロのインフラエンジニアがDMMを選んだ理由」を発表しました。その内容を抜粋してご紹介いたします。 ※AWS実弾演習場とは AWSの学習や自由研究的な開発などでの利用を想定し、エンジニア・デザイナー社員が自由に利用できるAWSアカウントを提供するサポート制度。 DMMに入社するまでの経歴 こんにちは、加我です。今日のテーマは「
エクサバイトを超える世界へ
0 0 1 0 本記事は2016年3月にインフラストラクチャ部門担当専務 Akhil Gupta によって執筆されました。 オリジナルな記事はこちらです 数年前まで私たちは、すべてのファイルを 1 か所に保存できる便利な場所という意味で、Dropbox を「Magic Pocket」と呼んでいました。その後、Dropbox はその当初のシンプルな姿から、世界屈指のパワフルでユビキタスな共同作業のプラットフォームへと進化を遂げました。事業が大きくなった今、当社独自の専用ストレージ インフラストラクチャの構築が必要になりました。この目的を果たすために、「Magic Pocket」と名付けたプロジェクトが始まりました。プロジェクトの開始から 2 年半が過ぎた今、ユーザーのデータの 90% 以上を自社のインフラストラクチャ上で保管・運用できるようになりました。 Dropbox はエンジニアたちによ
インフラストラクチャの刷新：Dropbox の基幹ネットワークの進化
0 0 2 0 以前の記事で、世界中のユーザーのパフォーマンス向上を目指して当社が導入したグローバル境界ネットワークの概要をご説明しました。この境界ネットワークは、Magic Pocket のメリットを実現する戦略の一環として、2 年がかりで構築したものです。 境界ネットワークと平行して立ち上げたのが、北米の複数のデータ センター同士だけでなく、世界中の境界ノードを結ぶグローバル基幹ネットワークです。この記事では、まずこの基幹ネットワークを構築した経緯を振り返り、次に Dropbox とユーザーの皆様が得られるメリットについてご紹介します。 この 3 年間で、当社のネットワークはユーザーの増加に合わせて大きく進化しました。Magic Pocket に移行する前まで、当社は早い段階でクラウド テクノロジーを導入し、ストレージとインフラストラクチャのすべてのニーズをまかなっていました。しかし、
システムビジョンを語り合ったペパボ・はてな技術大会〜インフラ技術基盤@福岡 - Hatena Developer Blog
Webオペレーションエンジニアのid:y_uukiです。 今日は10月7日にGMOペパボ株式会社さんの福岡支社にて開催しました「ペパボ・はてな技術大会〜インフラ技術基盤〜@福岡」のレポートをお届けします。ペパボさんのレポートはペパボ・はてな技術大会〜インフラ技術基盤〜をペパボ福岡支社で開催しました！ - ペパボテックブログにて公開されています。 ペパボさんとの技術大会は、昨年からの継続的な取り組みとなります。 今回の技術大会では、「Webサービス基盤技術の開発・運用の考え方やビジョンとその実践」をテーマにさせていただけないかと、はてなからペパボさんへお願いしました。 というのも、はてなのWebオペレーションチームでは、基盤システムのビジョンを現在策定しようとしているため、そのアウトプットの場になればという思いがあったからでした。 ペパボさんは、「なめらかなシステム」に代表されるように、We
Nginxで、リクエストを複製するmirrorモジュールが標準搭載された - ASnoKaze blog
[20170809追記] nginx-1.13.4に ngx_http_mirror_module は含まれました Nginxで、リクエストを複製するmirrorモジュールがコミットされ、何もせずとも使用できるようになりそうです(現状最新コミットをビルドする必要あり)。 例えば本番環境のproxyからリクエストを複製して開発環境に流すような事も出来ます。もちろん複製処理は本来のリクエスト処理をブロックしません。 例えば以下のように、mirrorに来たリクエストを複製してバックエンドサーバに投げるようにしてみます conf server { listen 80 ; server_name localhost; mirror_request_body on; log_subrequest on; location /mirror { mirror /proxy; #/proxy宛にリクエストを
インフラチームと開発チームの垣根をなくすためにAWSのCI環境を構築した話 - CARTA TECH BLOG
こんにちは、VOYAGE GROUP システム本部の @s-tajima です。 PHPカンファレンス2016 の「老舗メディアが改善に取り組んでいる話」でもお話した通り、長年オンプレミス環境で稼働してきたECナビを、AWSに移転しようというプロジェクトが進行しています。 そしてなんと先日、約24時間のメンテナンスを経てECナビの本体(Webサーバ, 管理画面サーバの一部, データベースサーバ)がAWSに移転しました！ AWS移転において得た知見, 構築したシステム等は数多くありますが、今回はCloudFormationとTravis CIを用いて 生産的 で 安全 で 手軽 なAWSのCI環境を構築したお話です。 背景 ECナビは、500万人を超える会員を抱えたVOYAGE GROUPが運営している中でも特に大きなメディアの1つです。 今回、そんなECナビのインフラ調達期間の削減、検証環
モンストを支えるインフラの今とこれから
dots. Conference Spring 2016 ゲーム開発の裏側 http://eventdots.jp/event/580344
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
FGOなど大規模ゲームから学ぶゲームサーバ勉強会
オープンコンピュートプロジェクトジャパン (OCPJ)
インフラエンジニアの綺麗で優しい手順書の書き方