タグ

2021年8月25日のブックマーク (6件)

  • Kafkaに接続するJavaアプリケーションをGravitonインスタンスへ移行してパフォーマンスを改善する - joker1007’s diary

    社内向けのドキュメントと兼用したので、前提とかメンバー向けの解説が含まれているので、前後のパフォーマンスの変化だけを見たい人は、下の方のグラフ画像までスクロールしてください。 gravitonインスタンスを活用するモチベーション ワークロードによる相性はあるが、特にマルチスレッド性能で既存のインスタンスより性能向上が見られる上にコストが安いため、うまくフィットすれば性能改善とコスト削減の双方でメリットがある。 また、周辺ハードウェアもアップデートされているため、エフェメラルストレージ付きのインスタンスのストレージサイズが増えているなどのメリットもある。 特に現時点ではr6gdインスタンスが利用したかった。 gravitonインスタンスを利用するためarm64アーキテクチャへの対応 gravitonインスタンスはarm64 (aarch64) アーキテクチャのCPUのため、既存のx86_64

    Kafkaに接続するJavaアプリケーションをGravitonインスタンスへ移行してパフォーマンスを改善する - joker1007’s diary
    sh19910711
    sh19910711 2021/08/25
    "インスタンスの変更だけで得られるパフォーマンス改善としてはかなりの効果 / Dockerの実験的機能として実装されているbuildxを利用することでマルチアーキテクチャイメージを構築することができる"
  • Apache Spark 2.4 and 3.0 What's Next?

    ■Data Engineering Meetup #1 (2019/03/19) 発表資料 Apache Spark 2.4 and 3.0 - What's Next? - NTTデータ 技術開発部 猿田 浩輔Read less

    Apache Spark 2.4 and 3.0 What's Next?
    sh19910711
    sh19910711 2021/08/25
    "Spark GraphはGraphXやGraph Frameの課題を解決する新しいグラフ処理ライブラリ / Cypherによるグラフマッチングが可能 / マッチしたエッジやノードだけでなく、付与された属性もDataFrameとして返却可能"
  • TensorFlowのSavedModelの便利さを紹介する - 生き抜くぜ21世紀

    はじめに 今は2020年8月なのですが、コロナ禍だし、暑いし、経済状況最悪で暇だし、良いことないですね。 暇になったので、1年ぶりにkaggleをやってみました。 Landmark Retrievalという建物の画像検索コンペに出たところ、そのコンペの提出形式がTensorFlowのSavedModel形式でした。 私はTensorFlow案件をけっこうやってきたので抵抗はなかったのですが、この制約が原因となったのか、あまりこのコンペの参加者は多くなかったようです。 kaggleの提出形式としては賛否両論あると思いますが、実務ではとても便利な形式だと私は思っています。 それなのにもし実務でも敬遠されているとしたらもったいないと思い、この記事ではSavedModelの便利さについて紹介してみます。 ちゃんとした使い方は公式リファレンスを当たってもらうとして、概念やsaved_model_cl

    TensorFlowのSavedModelの便利さを紹介する - 生き抜くぜ21世紀
    sh19910711
    sh19910711 2021/08/25
    "saved_model_cliを活用することで、ネットワークのin/outを楽に・確実に確認することができる / saved_model_cli: TensorFlowが公式でサポートしている、SavedModelの中身をチェックするためのcliツール"
  • Deep Dive into Spark SQL with Advanced Performance Tuning

    Hadoop/Spark で Amazon S3 を徹底的に使いこなすワザ (Hadoop / Spark Conference Japan 2019) Hadoop/Spark で Amazon S3 を徹底的に使いこなすワザ / Hadoop / Spark Conference Japan 2019 講演者: 関山 宜孝 (Amazon Web Services Japan) 昨今 Hadoop/Spark エコシステムで広く使われているクラウドストレージ。講演では Amazon S3 を例に、Hadoop/Spark から見た S3 の動作や HDFS と S3 の使い分けをご説明します。また、AWS サポートに寄せられた多くのお問い合わせから得られた知見をもとに、Hadoop/Spark で S3 を最大限活用するベストプラクティス、パフォーマンスチューニング、よくあるハマりど

    Deep Dive into Spark SQL with Advanced Performance Tuning
    sh19910711
    sh19910711 2021/08/25
    "Spark SQL: A compiler from queries to RDDs / Cache Manager: プランが一致した場合にキャッシュデータと置き換え / Cache: 必ずしも速いわけではない / Code Generator: PlanをコンパイルしてJavaコードを生成 / hugeMethodLimit"
  • 書籍「デザインの伝え方」を読んで - snoozer05's blog

    デザインの伝え方 作者: Tom Greever,坂田一倫,武舎広幸,武舎るみ出版社/メーカー: オライリージャパン発売日: 2016/09/16メディア: 単行(ソフトカバー)この商品を含むブログを見る 「デザインの伝え方」を読んで、「ソフトウェア開発とは創作とコミュニケーションの協調ゲームである」という Alistair Cockburn *1 の言葉を思い出しました。 「デザインの伝え方」は、製品やサービスのデザインに関わるようなデザイナーに向けて、デザインの実現に影響ある人々(ステークホルダー)とどのようにコミュニケーションしていったらよいかが書かれた書籍です。具体的には、そうした人たちにデザインを伝える際に気をつけるべきこと、コミュニケーションギャップの埋め方、必要な心構え、そして合意形成のテクニックなどが書かれています。 なぜ、上記のようなデザイナー向けの書籍から、前述の言葉

    書籍「デザインの伝え方」を読んで - snoozer05's blog
    sh19910711
    sh19910711 2021/08/25
    "「ソフトウェア開発とは創作とコミュニケーションの協調ゲームである」という Alistair Cockburn の言葉 / トピックを「合意形成」という一点に絞ってゲームをうまく進めるために必要な心構え、能力、テクニックを解説"
  • チーム開発とコードレビュー

    東渋谷ITランチ勉強会 コードレビューについて考えたこと

    チーム開発とコードレビュー
    sh19910711
    sh19910711 2021/08/25
    "定性的貢献: プロダクトコードへの責任感、品質への探求心 / 定量的貢献: プロダクトコードの理解範囲、詳細理解の深さ"