プライベートの時間は極力削らない。Kubernetesエキスパート青山真也氏のコスパ最高な情報収集術 2024年3月5日 株式会社サイバーエージェント　インフラエンジニア 青山真也 (Masaya Aoyama) 2016年、新卒でサイバーエージェントに入社。OpenStackを使ったプライベートクラウドやGKE互換なコンテナプラットフォームをゼロから構築し、国内カンファレンスでのKeynoteに登壇。著書に『Kubernetes完全ガイド』『Kubernetesの知識地図』『みんなのDocker/Kubernetes』。現在はKubernetesやOpenStackなどOSSへのコントリビュート活動をはじめ、CloudNative Days Tokyo Co-chair、CNCF Japan ChapterのOrganizer、Kubernetes Meetup TokyoのOrgani

新時代を牽引するエンジニアたちは、いま何を考え、未来をどう創り上げていこうとしているのか。本コーナーでは、LINEヤフーの多彩なエンジニアや、各領域をリードするキーパーソンたちが語り合います。

あけましておめでとうございます。サイバーエージェントの青山真也（@amsy810）です。今年の新春企画では、2022年にも動向を見ていきたいと思っている、2021年のCloudNative関連のトピックを紹介します。項目としてはeBPF、WebAssembly（Wasm⁠）⁠、複数Kubernetesクラスタの管理・連携、CNCF Technical Advisory Groups（TAGs）によるWhitepaperを取り上げていきます。 eBPF eBPFは、カーネルのソースコードの変更なしに任意のプログラムをカーネルに組み込み、カーネル空間で任意の処理を実行するための仕組みです。CNCFのプロジェクトでは、Cilium・Calico・Falco・Pixieなどで利用されています。 CloudNative領域でのeBPFは、ネットワーク関連での利用が一番活発です。eBPFを利用したCN

こんにちは。青山（@amsy810）です。 この記事は、Kubernetes Advent Calendar 2021 の 1日目の記事です。 いよいよ今年もアドベントカレンダーの季節が始まりました。今年も1ヶ月間わいわいしていきましょう！ Agenda 2021-08-31 にリリースされた Synology 公式の CSI Driver の紹介 CSI Driver に実装された Cloning と Snapshot Feature の実装深堀り おうち Kubernetes 今回はかわいい下駄箱 DC に佇む、箱物ストレージの Synology に新たな CSI Driver を適用していきます。 去年の jparklab/synology-csi CSI Driver に機能実装した話 去年はおうちKubernetes向けのストレージを Synology に刷新したのもあって、jp

「CA BASE NEXT」は、20代のエンジニア・クリエイターが中心となって創り上げるサイバーエージェントの技術カンファレンス。青山氏は、PlatformのためのPlatformとしてのKubernetesを、実際の事例を踏まえて紹介しました。前半は、Kubernetesの拡張性の高さについて話しました。 devチームでは「Kubernetes as a Service」と「ML Platform」を開発中 青山真也氏：本日は「"Platform for Platform" with Kubernetes」というテーマで発表いたします。よろしくお願いします。 軽く自己紹介します。私は青山と申します。2016年に株式会社サイバーエージェントに新卒入社して、現在はメディア側とAI事業本部側の、プライベートクラウドのインフラ部隊を合併して作った「CyberAgent group Infrast

こんにちは。 青山（amsy810 ）です。 この記事は Kubernetes Advent Calendar の 1 日目の記事です。 いよいよアドベントカレンダーが始まりましたね。1か月間わいわいしていきましょう！ どこかの誰かに実装系の記事のほうが面白いよねってフリをされたので、今年は Synology CSI Driver に VolumeExpansion を実装しつつ、内部実装の紹介 をします。 VolumeExpansion は 1日あれば実装が終わるくらいの規模感でした。 おうち Kubernetes みなさんのおうちの Kubernetes はどこにありますか？ ちなみに私は下駄箱にあります。下駄箱DC。上流スイッチもここに集約されています。 そして皆さんストレージはどうしてますか？ hostPath や Local PV で我慢してる人がいたり、Longhorn や R

こんにちは。AI事業本部の青山（@amsy810）です。 2020年版「おうちKubernetesインターン」を実施したため、事後レポートをブログにまとめたいと思います。 コロナ禍のため、機材一式を学生とメンター宅に郵送し、フルリモートでの実施となりました。 またそれに合わせて3 Daysだったものを7 Daysに伸ばして、初日と最終日以外は夕会だけをコアタイムとしたフレックス性で実施しています。 メンターは私以外に、徳田、川部、漆田、源波、中西、岩立、長谷川が参加しています。 概要 今回のおうちKubernetesは Raspberry Pi 4 の 8GB モデル 3台 を使ってクラスタを構成しました。 単純な仕様だと、12 core + 24 GB Memory のクラスタです。もはやノートパソコンに近しい性能ですね。 また、今回 Raspberry Pi 4 になってから最低 2.

今年の4月頃に「Kubernetes 完全ガイド」を読み終えたけど，まだ書評を書いていなかった．そしたら8月に「Kubernetes 完全ガイド 第2版」が出版されたため，さっそく購入して，読み直している．読みながら気になった機能を試していく．今回は ConfigMap にする． Kubernetes完全ガイド 第2版 (Top Gear) 作者:⻘⼭ 真也発売日: 2020/08/07メディア: 単行本（ソフトカバー） ConfigMap (binaryData) 「第7章 : Config & Storage APIs カテゴリ」の ConfigMap を読み直していたら，テキスト (UTF-8) だけではなく「バイナリ」を登録する内容が新しく追加されていた．拡張子 .jpg など画像ファイルを Base64 でエンコードして，nginx コンテナから HTML と画像ファイルを配信す

悩みに悩んだ Kubernetes Secrets の管理方法、External Secrets を選んだ理由#ops#Kubernetes#k8s#gitops#secret

こんにちは。青山（amsy810）です。 Kubernetesには複数のクラスタを扱うための技術がいくつかあります。 今回は幾つかのパターンに分けて紹介していきたいと思います。 また、将来的にこうなったら面白いかもという話をするために、すぐにプロダクション利用できない話やWebサービスでは使わないような話も含まれています。 【目次】 複数クラスタを利用する理由 複数クラスタを管理するパターン GitOpsで複数クラスタを管理するパターン 複数のKubernetesクラスタをFederateするパターン Virtual kubeletパターン マルチクラスタ時のロードバランサの扱い LoadBalancer の機能を利用して分散する DNS を利用して分散する Multi Cluster にまたがる Service Mesh を利用して転送する マルチクラスタでPod Networkを繋ぐ

kubernetes の namespace が terminating になっていて消せなかった時のメモです。 TL;DR finalizar ってのがいてその処理があるので termine 待ちになっている。 そこを調査するなり、強制的に finalizar が走らないようにする。 finalizar について 以下がわかりやすいかなと思います。 Extend the Kubernetes API with CustomResourceDefinitions - Kubernetes Finalizers allow controllers to implement asynchronous pre-delete hooks. Let’s say you create an external resource (such as a storage bucket) for each ob

kubevirt を利用すると kubernetes で仮想マシンを管理することが可能になります。 Kubernetes で管理できるということでスケジューリングやセルフヒーリング、ロードバンランサなどのサービスが利用できるなど期待が高まります。 CNCF Cloud Native Interactive Landscape では Application Definition & Image Build のカテゴリに分類されていました。 はじめに OpenStack もいらなくなる？と書いたのは、冒頭に書いた Kubernetes で得られる一般的なメリットを利用できる点に期待したからです。 OpenStack を作ることが自体がとても大変で、最近だとドキュメント通りでうまく起動はできるとは思うのですが、やはり手間であることには変わりないと思います。 OpenStack をインストールして

前回に続いて KubeVirt について書きます。 ちなみに KubeVirt ってなに？って人はこちらの前半を読んでみてください。 簡単にいうと、Kubernetes で VM 動かしちゃおうぜっていうものです。 komeiy.hatenablog.com VirtualMachineInstanceReplicaSet リソースを試してみたいです。なんて記載をしていたので今回試してみました。 はじめに ReplicaSet 使えると何が嬉しいの？ってとこですが、 Pod を指定した数だけ作ってくれます もちろん指定した数（=レプリカ）を維持する動きをしますので、Node 障害により Pod が停止すれば、別の Node で Pod を起動してくれたりします。 正直なところ、 StatefulSet が使いたい ですね・・・。VM なので Persistent Volume を使うことに

Kubernetes-native testbed OSS for modern cloud native architecture Hello, This is Masaya Aoyama (@amsy810) and Mizuki Urushida (@zuiurs) from CyberAgent, Inc. We are software engineers who love Kubernetes and Cloud Native architecture and this post will show how we invented the Kubernetes-native testbed platform. This is published as OSS on kubernetes-native-testbed/kubernetes-native-testbed for g

こんにちは。 青山（amsy810）です。 皆さん在宅勤務が長引いて大変な日々をお過ごしでしょうか。 かくいう私も仕事場所を作ってたんですが、長期かつ運動もしなくなる状況では耐えられなかったため昇降デスクを作ることにしました。 最大サイズで作った例が見当たらなかったので、まとめておきます。 最近の昇降デスクはかなり安くなってるのですね。 出来上がりはこんな感じです。 【自宅環境整備週末日記②】 はい、できました！（途中経過全然載せられなかった） 昇降すると123cmまであがるので在宅疲れの軽減に期待。 自分で作ると32インチのモニター二枚置いても広々な規格外サイズ作れて良い。 週末もいろんな意味でアーキテクト、インフラエンジニアしてました。 pic.twitter.com/Eb6s1uSdYC— MasayaAoyama（青山 真也） (@amsy810) 2020年4月18日 どの昇降デ

Kubernetes-nativeなアーキテクチャ導入の手引き 先進的なクラウド環境を最強テストベッドで体験 Kubernetes-nativeなエコシステムを実現する最強テストベッド環境です。さまざまなミドルウェアを運用したマイクロサービスをフルgRPCなサービス間通信で実現するだけでなく、CI/CDと開発環境も用意しています。 こんにちは。株式会社サイバーエージェントのAI事業本部でインフラエンジニアをしている青山真也（@amsy810）と漆田瑞樹（@zuiurs）です。今回は、Kubernetesが好きな2人が考える最強のKubernetes-nativeなお試し環境を構築してみました。記事公開時点で、総コミット数が900に迫るリポジトリになっています。 現在、Kubernetesとそれを取り巻くエコシステムは急速に発達しており、便利なツールやミドルウェアが日々生まれています。これは

Conftest で CI 時に Rego を用いたテストを行う こんにちは。青山（@amsy810）です。 実は少しだけ PLAID さんでお手伝いをしており、CI に Conftest を組み込んで Kubernetes マニフェストのポリシーチェックを行うようにしたので、その時の備忘録を書いておきます。 PLAID さんでも GKE を基盤として選定して開発しています。 Conftest とは？ Conftest は Rego 言語で記述したポリシーを用いて、JSON や YAML などがポリシーに合致しているかをチェックする OSS です。 今回は Kubernetes のマニフェストがポリシーに合致しているかどうかを判別するために利用します。 例えば下記の例では、Deployment や　StatefulSet などの Workloads リソースの　Selector や起動して

EKS on Fargate こんにちは。 サイバーエージェントの青山（@amsy810）です。 この記事は Kubernetes3 Advent Calendar の 4日目の記事です（EKS #2 にもクロスポストしています）。 re:Invent で EKS 関連の何かしらの発表がされることを見越して Advent Calendar を埋めたので、書くネタが見つかってホッとしています。 KubeCon 会期中に 「Managed Worker Node for EKS」 がリリースされ歓喜の声が上がりましたが、今回は re:Invent で 「EKS on Fargate」 がリリースされ歓喜の声が上がっているようです。 今回は EKS on Fargate のアーキテクチャを見ていきたいと思います。virtual-kubelet と近いと思ってますが果たして。 （EKS on Fa

こんにちは。 @amsy810 です。 下記のブログが出てから『Kubernetes は運用しきれない』と耳にすることが多くなってきたので、雰囲気で曲解されて Kubernetes is difficult とならないよう、マネージドでシンプルに使うだけなら難しくないよと伝えるために書きました。 Kubernetes がいいよと伝えるためではありません。 yakst.com TL;DR 上記のブログについては概ね同意見です。 辛いのは自前で Kubernetes クラスタの管理自体を行う場合です。 GKE などのマネージド Kubernetes サービスを利用するケースでは、Kubernetes の管理は殆ど必要がなくなります。 例えば GKE の場合には、自動クラスタアップグレード・自動クラスタスケーリングなどが用意されています。他にも自動ノードプロビジョニング機能（CPU・メモリ・GP

僕は大学時代に研究を続けたかったのだけど、当時アルバイトとして働いていたレンタルサーバー会社の中の取り組みがとても高度に思えて、こういう状況を知らずに研究を続けるのは怖いと思って、大学院に行かずに就職した。そして、3年後になんとか大学院に再び入り直すことができたし、博士課程での研究では随分と会社で学んだ運用技術をネタにした研究をすることができた。 これまで、僕は運用技術をネタに研究をやってきたのだが、研究に専念すればするほど、その経過時間だけ新たな運用技術の時代背景や細部も変化していき、それを個人としてうまくキャッチアップして研究につなげていくことが非常に困難であることに数年前から気づき始めた。でも、自分自身はそれを素直に受け入れることができず、どうにか自分の現場の経験があることを武器に研究をすることにこだわっていた。しかし、それも誤魔化しきれない程に、少しずつ少しずつ限界が来ていたし、自