[B! cybozu] sfujiwaraのブックマーク

魔窟と化した全文検索サーバーとふっかつのじゅもん - Cybozu Inside Out | サイボウズエンジニアのブログ

サイボウズのクラウド黎明期から運用し続けていたSolrサーバーを Elasticsearchに置き換えるプロジェクトが先日完了しました。プロジェクト完了報告もかねてプロジェクトのあらましを公開したいと思います。はじめにこのプロジェクトの主軸は『魔窟と化したレガシー技術をどう捌くか？』になります。このプロジェクトの報告をする前に、いくつかエクスキューズをさせていただきます。クラウド黎明期を支えてくれたSolrには畏敬の念に近い感謝をもっていますレガシーな技術に対してマウントやディスリスペクトの意図はありません魔窟にかかわることになってしまった人に対して負の感情は一切ありません今回の採用している構成はElasticsearchのあるべきアーキテクチャではありません今後、Neco 環境への移行を通して継続的に改善していきますサイボウズでのSolrの使い方と用語説明サイボウズ

sfujiwara 2021/06/16

粘り強い

リンク

MOCO - Kubernetes 用 MySQL クラスタ運用ソフトウェア - Cybozu Inside Out | サイボウズエンジニアのブログ

サイボウズの Kubernetes 基盤を開発している Neco プロジェクトの ymmt です。サイボウズ製品のほとんどはデータベースとして MySQL を採用しています。現在 400 を越える MySQL のインスタンスを運用しており、これら全てを新しい Kubernetes 基盤に移行していく予定です。 Kubernetes 上でアプリケーションやミドルウェアの運用を自動化するソフトウェアのことをオペレーターと言います。大量の MySQL インスタンスを Kubernetes 基盤に移行するにはオペレーターが必須であると考え、技術顧問の @yoku0825 さんの監修の下で MOCO というソフトウェアを開発しオープンソースライセンスで公開しました。本記事では Kubernetes 上の MySQL オペレーターの状況と、開発した MOCO の機能を詳細に解説いたします。 M

sfujiwara 2021/06/02

リンク

cybozu.com の新データセンター「Neco」が稼働開始 - Cybozu Inside Out | サイボウズエンジニアのブログ

こんにちは、Neco プロジェクトの責任者 ymmt です。 Neco は、2018 年 1 月に開始した cybozu.com のデータセンターを一から刷新するプロジェクトです。今回は Neco の成果が結実した新データセンターが稼働開始したことをお知らせします。あわせて、現時点までの活動内容・システムの概要・今後の予定もお伝えいたします。 Neco プロジェクトについて成果の紹介 2019年9月時点のシステム移行プロジェクト Maneki を開始採用イベントのご案内 Neco プロジェクトについてサイボウズの主力クラウドサービスである cybozu.com は自社で構築したデータセンターにて2011年に提供開始しました。以来順調に業容を拡大し、現在は 30,000 社以上のお客様にご契約いただいております。一方で、当初 100 台に満たない台数のサーバー向けに設計された

sfujiwara 2019/09/04

リンク

サイボウズのオープンソースソフトウェアポリシーを紹介します - Cybozu Inside Out | サイボウズエンジニアのブログ

OSS準備室長を務めていた ymmt (@ymmt2005) です。過去形なのは、OSS準備室は 7 月末で解散したためです。 OSS準備室では、サイボウズ社員がオープンソースソフトウェアに関する活動を行いやすくすることを主な目的として、会社の基本方針を「OSSポリシー」という文書にまとめる作業を行いました。完成したOSSポリシーはCC0 (いかなる権利も保有しない、いわゆるパブリックドメイン)で広く他の企業の方々にも活用いただけるよう以下で公開しました。本記事ではその内容と、サイボウズにおけるオープンソース活動のこれまでとこれからを紹介いたします。 OSSポリシー(日本語) (GitHub) OSS Policy (English) (GitHub) オープンソースについてオープンソースソフトウェア(Open Source Software, OSS)とは、オープンソースの定義に基

sfujiwara 2018/09/10

cybozu
oss

リンク

分散システムの耐障害性テストの取り組み - Cybozu Inside Out | サイボウズエンジニアのブログ

こんにちは、Necoチームの池添（@zoetro）です。サイボウズが提供するクラウドサービスcybozu.comでは、アーキテクチャを刷新すべく「Neco」というプロジェクトを実施しています。そのプロジェクトでは、サーバのライフサイクルを管理するsabakanや、Kubernetesクラスタを構築するためのCKE(Cybozu Kubernetes Engine)などの分散システムを開発しています。安定してサービスを提供するためには、このようなインフラを支える分散システムの耐障害性が重要になってきます。本記事では、我々のチームが分散システムに対してどのような耐障害性テストを実施しているのかを紹介します。耐障害性を高めるために機材故障サイボウズの管理するデータセンターでは1,000台規模のサーバを扱っており、日常的にハードウェアの故障が発生します。例えば、以下のような機材故障

sfujiwara 2018/09/06

リンク

Go でいい感じのコマンドを作れるツールキットの紹介 - Cybozu Inside Out | サイボウズエンジニアのブログ

SRE の @ymmt2005 です。最近は systemd が好物です。今回は GitHub でサイボウズが公開している Go 言語のプロジェクト群、特にいい感じのコマンドを作れる github.com/cybozu-go/cmd について紹介します。 SRE チームでは最近 Go でツールを開発する機会が多くなっています。最初のうちは決まった作り方をしていなかったため、コマンドごとに仕様がばらばらで、以下のような問題がでてきました。 REST API サーバーのアクセスログを記録しないコマンドがある外部コマンド実行時のログを記録しないコマンドがある SIGTERM 等シグナル処理の方法がばらばらログファイルのリオープンができずローテートしにくいログメッセージの形式がばらばら大雑把にいうと、ログとシグナル処理がきちんとしてないと扱いにくいわけです。具体的にどうなっていると「い

sfujiwara 2016/09/08

go
cybozu

リンク

データセンター移転とDRBD - Cybozu Inside Out | サイボウズエンジニアのブログ

@ymmt2005 こと山本泰宇です。今回は去る 5 月から 6 月にかけて行った、cybozu.com のデータセンター移転作業について、失敗してしまったことを中心に解説します。失敗と書いたのは、移転作業中に何度か、一部のお客様環境でストレージ高負荷による障害を起こしてしまったためです。移転作業自体はスケジュール通り進行し、6 月第二週に完了しています。障害に関しては、こちら（PDF）でお詫びとご報告をしていますが、この記事では技術面ならびに障害を引き起こすにいたった背景について詳述します。移転に至った背景移転方式の検討ストレージ同期の方法 DRBD による同期の詳細まずは自社環境を移転、成功そして障害は発生したなぜ障害につながったのかまとめ移転に至った背景まず、なぜデータセンターを移転することにしたかを説明します。端的に言うと、当時のデータセンターが手狭になり拡張