ログ解析における統計値の妥当性 - wyukawa's diary

ログ解析における統計値の妥当性をどうやって担保するのかは難しい問題だと思っていてぶっちゃけ最終的にはオレを信じろ、でも間違ってたらゴメンの世界な気がする。 社内で閉じていて外に出ない統計値ならまあいいんだけど、世の中そんな統計値ばかりではない。 例えばWebサービスを展開していてそこに広告を出稿してもらって売り上げをたてたいとする。広告を出す方としてはそのサイトにどれぐらいPV/UUがあるか知りたいと思うのは当然ですよね。 広告を出したら出したでインプレッション数が知りたいとかあるかもしれない。 このような統計値はログを集めて集計することによって求めるわけなんだけど、数値が正しいかどうかをどうチェックするかというのは難しい問題ですよね。 本来ならいろんなバリエーションのテストデータを作ってテストするんでしょうけど、テストデータ作るの大変だし、このビッグデータ時代？にはどんなデータが来るかわ

[tmatsuu]

ログのロストをできるだけ防ぐためには、ログ出力はできるだけ単純化、後処理は何度でも再現可能にすることだろうか。具体的にはログはファイルに出力してfluentdでin_tailとか。

[ryonext]

やっぱりこういう悩みはあるのね

[tagomoris]

検証しようと思ったら全く別系統の同目的のシステムをもうひとつ、運用する人間も含めて別に作る必要があって、アホか、という話になる

[kimutansk]

確かに障害発生して、や他の要因でロストしたのってどう検知するんでしょうね。全突き合わせとかは当然不可能でしょうし。特にPV/UUとかは・