タグ

ブックマーク / road288.hatenablog.com (4)

  • S3にあるALBログの調査はAthenaよりDuckDBのほうが簡単 - road288の日記

    AWSのALB(Application Load Balancer)のログはS3に置かれるが、この中身をサクッと調べたいとき、Athenaを使う方法が標準的で、下記で案内されているようにパーティション射影(Partition Projection)でテーブルを作ってAthenaからクエリする。 パーティション射影を使用して Athena で ALB アクセスログ用テーブルを作成する - Amazon Athena 私も従来はその方法を使っていたが、Athenaはブラウザから使うと動作がもっさりしているし、決まったクエリを1回きり実行して結果を取得したいだけのときならまだしも、探索的にクエリを何発も実行したいときには使い勝手が悪い。 最近他のプロジェクトでDuckDBを使うようになって、使い勝手の良さに感動していたが、DuckDBはALBのログを探索的に調べたいときにもめっちゃ使えると思った

    S3にあるALBログの調査はAthenaよりDuckDBのほうが簡単 - road288の日記
    toenobu
    toenobu 2024/11/06
  • SREcon19 Asia/Pacific参加メモ: 3日目 と総括 - road288の日記

    3日目(最終日)のメモです。各セッションを振り返ったあと、総括をします。 How We Used Kafka to Scale Database Infrastructure LinkedIn内部で使われているドキュメントデータベースであるEspressoについて、Kafkaを使ってデータのレプリケーションをどう行っているかを解説したセッション。 EspressoはバックエンドにMySQLを用いたクラスターデータベースで、以前はデータの可用性を高めるためのレプリケーションをMySQLのレプリケーション機能を用いて行っていた。ただそうするとインスタンス(ノード)ごとのレプリケーションとなり、柔軟性やフェイルオーバー時の負荷の集中などに課題があったので、Kafkaを使ってパーティション単位のレプリケーションにアーキテクチャを変更した、というのがセッションの主旨。 Kafkaを用いて工夫している

    SREcon19 Asia/Pacific参加メモ: 3日目 と総括 - road288の日記
    toenobu
    toenobu 2019/08/17
  • SREcon19 Asia/Pacific参加メモ: 2日目 - road288の日記

    昨日の記事の続き。2日目について書きます。 帰国してからきちんとまとめようと思ってもだらだら遅れる気がするので、昨日とは違って現時点でのメモをどばっと吐き出したいと思います。 Reliable by Design: Adding Value in the Design Review Process システムアーキテクチャ・ソフトウェアのデザインにおいては、後々後悔する意思決定があるので、きちんとデザインドキュメントを書き、レビューをしようということで、チェックリスト形式でレビューすべき点を紹介したセッション。 Who, what, why(誰が、何を、なぜ) ゴールは何か? 必要な人がレビューをしているか プライバシー・セキュリティ・悪影響を与えるシステムはないか Alternatives Considered(他の選択肢) 他の選択肢を十分検討したか? Stickiness システムの中

    SREcon19 Asia/Pacific参加メモ: 2日目 - road288の日記
    toenobu
    toenobu 2019/08/17
  • SREcon19 Asia/Pacific参加メモ: 1日目 - road288の日記

    2019/6/12~6/14にシンガポールで行われているSREcon19 Asia/Pacific(以下SREcon19AP)に参加しています。開催場所はシンガポール市内のSuntec Singapore International Convention & Exhibition Centreです。 SREconはSite Reliabilityの話題を中心に、DevOps、分散システム、OSやネットワークのデバッグ・チューニングなどがテーマで、特定の技術にフォーカスしていないぶん、幅広いトピックがあるカンファレンスです。 今回のSREcon19APは、セッション内での発表によると参加者は580人(125の企業、24カ国)だそうです。Google/Microsoft/Facebook/Baiduなどの業界を代表する大企業を中心に、ユーザー企業、ツールベンダーなどバラエティに富んだ参加者の印

    SREcon19 Asia/Pacific参加メモ: 1日目 - road288の日記
    toenobu
    toenobu 2019/08/17
  • 1