タグ

ブックマーク / engineering.linecorp.com (4)

  • Pyroscopeを使ったContinuous Profilingの活用事例

    LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog LINE株式会社OA SREチームのhasebeです。 先日、私の担当するプロダクトにてPyroscopeというツールを導入しました。このブログではなぜPyroscopeを導入したのか、導入した結果どういった利点があったのかなどについてご紹介したいと思います。 Pyroscopeとは Pyroscopeとは、Continuous Profilingを実施することができるOSSのツールです。 Profilingについては特に説明は不要でしょう。ざっくりいうと、CPUやメモリ等のリソースをプログラム中のどこが多く消費しているのか(= ボトルネック)を突き止める手法のことを意味します。 一般的には、なにか問題が起きたときに手動でPr

    Pyroscopeを使ったContinuous Profilingの活用事例
    hiboma
    hiboma 2023/01/16
  • LINEの新しいセルフサービス型バッチデータ収集システム「Frey」の導入

    こんにちは、Data Platform室Data Engineering 1チームの徐です。 Data Platform室では、大規模なHadoopクラスタを運用し、データ収集、分析、活用するためのプラットフォームを提供しています。Data Engineering 1チームのミッションの一つは、様々なストレージからのdata ingestionシステムを構築、運用することです。 記事では、バッチ処理でデータ収集を行うシステムの概要を説明した後に、LINEのセルフサービスツールであるFreyをご紹介します。 課題: このシステムでもデータ収集のバッチ処理を実行・管理するという目的は果たせましたし、ユーザーとタスクの規模が小〜中程度であれば問題はありませんでした。しかし、LINEの全てのプロダクトまでスコープを広げるにつれ、次のような問題に躓くことが増えていきました。 コード記述(ステップ1

    LINEの新しいセルフサービス型バッチデータ収集システム「Frey」の導入
    hiboma
    hiboma 2021/02/05
  • 【インターンレポート】KubernetesのOperator Patternを用いた効率的なHypervisorの更新システムの構築

    LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog 概要 LINEのインフラは50,000台以上の物理マシンによって構築され、インフラエンジニアはそれらマシンの能力を最大限発揮すべく日々開発を行っています。LINEの各種サービスを支えるプライベートクラウドのVerdaも同様に規模を拡大しています。規模の拡大に伴って、規模に応じたオペレーションの問題が出てきました。その問題の一つとして、既存の管理システムによるデプロイは4時間を超えるオペレーションになりました。 この問題を解決するために、今回の技術職 就業型コースのインターンシップで、私は効率的なVerdaのHypervisoの更新システムを構築しました。その設計にはKubernetesのOperator Patternを採用し

    【インターンレポート】KubernetesのOperator Patternを用いた効率的なHypervisorの更新システムの構築
    hiboma
    hiboma 2020/11/13
  • SRv6ベースのマルチテナンシー環境で起きたTSO問題とその検証方法 - LINE Developer Meetup #67 フォローアップ記事

    Yuki Taguchi2020-10-22Yuki is an engineer tasked with network development for Verda, LINE's private cloud platform. He investigates and tests data plane acceleration technologies. Verda室ネットワーク開発チームの田口です。私は2019年にLINEに新卒入社して、プライベートクラウド「Verda」に関わるネットワークの開発・運用を行なっています。先日、8月19日に開催されたLINE Developer Meetup #67では、『ネットワーク機能のベンチマーク自動化』というタイトルで発表を行いました。発表では、以下の3点に関してご紹介をしました。 上記のうち、1つ目の『ロードバランサのベンチマーク自動化』に関し

    SRv6ベースのマルチテナンシー環境で起きたTSO問題とその検証方法 - LINE Developer Meetup #67 フォローアップ記事
    hiboma
    hiboma 2020/10/27
    “SRv6”
  • 1