ログ調査基盤を構築してみた
こんにちは。 株式会社ココナラのインフラ・SREチーム所属の かず です。 システム運用において、有事の際に迅速かつ適切なシステム稼働状況の確認は欠かせません。 その手段の1つとして、ログの調査や分析の効率化は切っても切れない関係です。 システムが成長するにあわせ、ログの種類や量が多くなり、結果としてログの調査や分析が難しくなるのはよくある話かと思います。 弊社でもサービスのグロースに伴って、ログの種類や量が多くなり、結果としてログの調査や分析で課題を抱えていました。具体的には以下の2点です。 ログから原因調査を行うには、複数ログを横断・突き合わせが必要 ログの追跡に必要な情報がログに出力されない場合がある そこで、課題への対応としてログ調査基盤の構築を行いました。 本記事では背景や苦労したこと、効果についてご紹介します。 複数ログの横断調査実現に向けて ログ調査基盤の構築 苦労したこと
git logの内容を検索する-Sと-Gの違い - $shibayu36->blog;
ずっとgit logの内容を検索するときに-Sオプションを使っていたが、実は近いオプションに-Gオプションもあり、探したい内容によっては使い分けないとダメということを初めて知った... 詳しくはhttps://git-scm.com/docs/git-logの-Sと-Gのドキュメントを見てほしい。簡単にまとめると -Sは指定した文字列の出現回数が変わるdiffがあるcommitを検索する -Gは指定した正規表現がマッチする文字列がdiffにあるcommitを検索する ドキュメントの事例部分が結構わかりやすくて、以下のようなdiffがあった場合 + return frotz(nitfol, two->ptr, 1, 0); ... - hit = frotz(nitfol, mf2.ptr, 1, 0); -S frotzで検索をかけると、frontsの出現回数は変わってないのでマッチしない
今度こそ分かる、対数関数(log関数) - Qiita
#対数関数 高校数学で習ったような気がする、対数関数。 忘れてしまった人も多いのではないでしょうか。 「こんなもの覚えて何の役に立つんだ」と思って高校の授業を受けていた人もいたかもしれませんが、コンピュータの世界では、たまに出てきます。 統計や機械学習の式の中に出てくる 情報量の議論で出てくる アルゴリズムの話で、計算量のオーダーで O(log N) などと出てくる などです。 対数関数って一体何でしょう。どういう性質があるんでしょう。これらを見ていきましょう。 コードはPythonとJavaScriptで書いていますが、大抵の言語では同じようなものが用意されています。 納得するまで、手元で動かしてみることをおすすめします。 #雑に言っちゃうと、桁数を求める関数です。 まずは、一番分かりやすい、常用対数と呼ばれるものを見ていきます。 常用対数はPythonではmath.log10 (num
【Azure】これ知ってた？ 「Log Analytics」「Kusto」のログクエリ時のテクニック
「Azure Log Analytics」「Kusto」でのログ分析が難しい!? Azureの各サービスが出力するログを分析する場合、「Azure Log Analytics」サービスなら簡単にセットアップできて便利だ。 ただLog Analyticsでは、「Kusto」（KQL： Kusto Query Language）と呼ばれる言語で分析時のフィルタや出力内容などを指定する必要がある。構造はSQL言語によく似ているとはいえ、望み通りの統計などを得るには、それなりにKustoの関数や演算子を使いこなす必要がある。Microsoft Learnのレファレンスなどを参照しつつ、試行錯誤を繰り返すこともよくあるのではないだろうか。 本Tech TIPSでは、そのような時に役立つ、Kustoのちょっとしたクエリのテクニックを紹介したい。ログの主な対象はAzure App ServiceとAzu
logspoutでDockerコンテナのログの集約・ルーティング
logspoutでDockerコンテナのログの集約・ルーティング progrium/logspout logspoutは，ホスト内で動かした全てのDockerコンテナの出力を集約して，好きなところに飛ばす（ルーティングする）ためのツール．開発者はDokkのJeff Lindsay． 以下の2つの特徴がある コンテナとして起動（ステートレス） HTTP APIによるルーティングの設定 ログを貯めて管理したり，検索するといったことはできない．コンテナのログをリアルタイムで好きなところに飛ばすだけ． これだけだが，Dockerのログの問題をいい感じに解決してくれそう． Dockerのログのしくみ まず，簡単にDockerのログのしくみを説明する． 現時点（2014年5月）でDockerはコンテナ内で吐き出されたstdout/stderrを取得することができる．コンテナのプロセスがstdoutとs
【OSS技術コラム】第2回 Zabbixログ監視の仕様で知っておきたいこと｜特集・コラム｜ITシステム運用のCTCシステムマネジメント株式会社（CTCS）
第1回目でお話ししました、便利なOSSの監視ツールZabbixを使いこなして頂けるよう過去の経験から気づいた留意点や改善ポイントについてコラム形式で解説しています。 1.ログ監視検知・収集の仕様 2.ログファイル読込みの仕様 3.Zabbixログ監視をうまく使いこなし運用するために 1.ログ監視検知・収集の仕様 Zabbix も他の監視ツールと同じくログ監視機能を有しています。 ログファイルに書き込まれる「error」などのキーワードをZabbixエージェントが定期的にチェックして、対象文字列を発見すると障害イベントを通知するというものです。 ログ監視設定について ログ監視に限らずですが、Zabbixの監視設定は大きく分けてアイテムとトリガーという2つの設定で行います。アイテムは監視項目を設定し、トリガーは障害判定設定を行います。アイテムという単位で監視対象(CPUの使用率やプロセス名など
Python(とGo)で複数プロセスから一つのファイルにログを書き込んでいいのか？
概要 マルチプロセスでレスポンスの処理を行う（1リクエストにつき1プロセスがレスポンスの処理を行う）PythonのWEBフレームワーク[1]でAPIサーバーを実装している際、各プロセスから一つのファイルにログを書き出しても、行が上書きされる・順番が前後するといった不整合がおきないのか、という疑問がわきました。（ファイルは各プロセスで独立にopenするものとします。） Pythonのロギングに関する公式ドキュメントには、「複数プロセスから1ファイルへのロギングはサポートしていないから別の方法で工夫しろ」と書いてあるのですが、別の記事では「書き込むログの長さが短ければ不整合はおきない」と記述されていたり、よくわからなくなったので自分で調べてみました。 結論としては、Python標準のloggingモジュールでログの長さが2,147,479,552(=0x7ffff000)バイト以下なら「原子性
Docker ロギングのベストプラクティス
製品 { this.openCategory = category; const productMenu = document.querySelector('.product-menu'); window.DD_RUM.onReady(function() { if (productMenu.classList.contains('show')) { window.DD_RUM.addAction(`Product Category ${category} Hover`) } }) }, 160); }, clearCategory() { clearTimeout(this.timeoutID); } }" x-init=" const menu = document.querySelector('.product-menu'); var observer = new MutationO
Dockerロギング 入門
今までDockerのロギングはいつも適当に設定していた。 だが、ロギングを状況に合わせて適切に設定しないと、性能・信頼性に影響するらしいので、しっかりと理解を深めておこうと思う。 Dockerログ処理の基本 Dockerのログ処理の仕組みを簡単に説明すると、「コンテナで標準出力/標準エラー出力に吐かれたログを、設定してるロギングドライバが処理する」というもの。 こういう仕組みなので、Dockerコンテナで動作するアプリは、原則として標準出力/エラー出力にログを吐く必要がある。 ファイルなどに吐いてしまうと、せっかく用意されてるロギングドライバの恩恵を受けることができない。 ロギングドライバは標準でいろいろ用意されてるので、システム要件に応じて使い分けるといい アプリの要件・性質に応じて「配信モード」を使い分ける Dockerのロギングを語る上でこの知識は確実に抑えておかないといけない。 配
docker container内で叩いたコマンドを docker log に出力する方法 - Qiita
やりたかったこと チームメンバーにCLIコマンドを提供した GUI 作る暇がない ACLの関係で指定サーバからしか叩けない security的にproxyなど使いたくなかったため serverへのlogin権限さえあれば叩ける = 権限管理は既存のアレでok host OS の環境は汚したくないのでコンテナで提供 docker exec はうざいので、aliasでhost側から実行させる alias cli='docker exec container_name python run.py $@' 実行した結果をelasticsearchに保存したい 前提知識 - コマンド結果を docker log に入力させる方法 terminalを２つ開きます これでlogを流しておく
JSON log formatterを使ってPythonのlogが複数行分割される問題を防ぐ - Zeals TECH BLOG
こんにちは！Zeals で Python をメインに書いている新卒 1 年目のソフトウェアエンジニアの玉城です。 Python で Cloud Logging（旧: Stackdriver Logging） や Datadog にログを出力するとき、複数行に分割されてしまい、元のログイベントとの関連付けが難しくなり困ったことはないでしょうか。 例えば、以下のようにログを書いたときに logger.info("test\n I want to eat sushi") Cloud Logging にはこのように表示されてしまうといった感じです。 これを JSON フォーマットにすることで解決してみましょう。 What's JSON log formatter File structure description JSON customization using json_log_formatt
DatadogのS3へのログアーカイブ機能を試してみた | クラウド・AWSのIT技術者向けブログ SKYARCH BROADCASTING
はじめに こんにちは。突然ですが皆さんはDatadogのログ管理機能を利用されておりますでしょうか。 今回はDatadogのログ管理機能のポイントを軽く触れつつ、表題のログアーカイブ機能について試してみようと思います。 ログ管理とは その名の通り、Datadog上でログを管理する機能です。Datadogエージェントを利用して指定のログをDatadogに転送しDatadog上で管理します。 利用用途としては一般的に以下があげられます。 ログの集約 ログの検索 ログのパターンを分析 ログ文字列、もしくはパターンに基づきアラートの検知 上記の内容はDatadogに限った話では無いですが、特にログの検索や分析機能が充実しているため複雑な設定をすることなく効率よくログを解読することが可能です。 よし！じゃあどんどんDatadogにログをもっていこう！という気持ちになるかもしれませんが、気になるのは料
Pythonの基本的なlogging
Python のロギング方法について ログ出力のための print と import logging はやめてほしい という記事や他にも色々な記事でこういうロギングがあるよと紹介されています。 さまざまなロギング方法の中でどうすれば良いか迷ってしまう人もいるかもしれないと思い、僕が普段から実践している(多分)基本的なロギング方法を紹介しようかと思います。 アプリケーションによっては設定を追加したり、フォーマットを変更したりなどのカスタマイズをしますが、基本的な部分は変わらないと思うのでなにかの参考になれば幸いです。 記事の構成としてはライブラリとアプリケーションでわけて記述していきます。 適当に考えていたことや参考情報は Scrap に記載しています。 ここで紹介するソースコードは GitHub に公開しています。 筆者の実行環境は以下のようになっています(OS関係) Windows 10
Pythonのロギングを覚えた - Qiita
いつも忘れてしまうので・・・ 簡単なスクリプトを書くときでも、きちんとloggingしておくとあとあと便利だと思うのですが、いつもやり方を忘れてしまいます。 なので、Loggingクックブックを参考に、ロガー作成の要素を整理してみました。また、毎回ファイルの冒頭に同じことを書くのもアレなので、setup_loggerという関数にしました def setup_logger(name, logfile='LOGFILENAME.txt'): logger = logging.getLogger(name) logger.setLevel(logging.DEBUG) # create file handler which logs even DEBUG messages fh = logging.FileHandler(logfile) fh.setLevel(logging.DEBUG) f
Logging in Python like a PRO 🐍🌴
Beyond exception handling, there's something else I see people struggling with, which is logging. Most people don't know what to log, so they decide to log anything thinking it might be better than nothing, and end up creating just noise. Noise is a piece of information that doesn't help you or your team understand what's going on or resolving a problem. Furthermore, I feel people are uncertain ab
Log4jの深刻な脆弱性CVE-2021-44228についてまとめてみた - piyolog
2021年12月10日、Javaベースのログ出力ライブラリ「Apache Log4j」の2.x系バージョン（以降はLog4j2と記載）で確認された深刻な脆弱性を修正したバージョンが公開されました。セキュリティ関係組織では過去話題になったHeartbleedやShellshockと同レベルの脆弱性とも評価しています。ここでは関連する情報をまとめます。 １．何が起きたの？ Javaベースのログ出力ライブラリLog4j2で深刻な脆弱性（CVE-2021-44228）を修正したバージョンが公開された。その後も修正が不完全であったことなどを理由に2件の脆弱性が修正された。 広く利用されているライブラリであるため影響を受ける対象が多く存在するとみられ、攻撃が容易であることから2014年のHeartbleed、Shellshock以来の危険性があるとみる向きもあり、The Apache Software
Apache Log4jの任意のコード実行の脆弱性（CVE-2021-44228）に関する注意喚起
JPCERT-AT-2021-0050 JPCERT/CC 2021-12-11（新規） 2022-01-04（更新） I. 概要 更新: 2022年1月4日記載 現時点で不明な点もあることから、今後の動向次第で下記掲載内容を修正、更新する予定がありますので、関連情報への注視のほか、本注意喚起の更新内容も逐次ご確認ください。 次の更新を行いました。詳細は「III. 対策」を参照してください。 - Apache Log4jのバージョン2.17.1（Java 8以降のユーザー向け）、2.12.4（Java 7のユーザー向け）及び2.3.2（Java 6のユーザー向け）が公開されました JavaベースのオープンソースのロギングライブラリのApache Log4jには、任意のコード実行の脆弱性（CVE-2021-44228）があります。Apache Log4jが動作するサーバーにおいて、遠隔の第三
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
もっと log/slog を使おう
Run Filebeat on Docker | Filebeat Reference [8.15] | Elastic
価格 - Azure Monitor | Microsoft Azure
