タグ

異常検知に関するsyou6162のブックマーク (6)

  • 変動検知機能が大幅アップデートされました 【wevox data blog】 - formal ver.|Wevox(ウィボックス)【組織づくり応援チャンネル】

    アトラエ Data Scientist 杉山です。 この記事では、新しい変動検知機能(2020年3月リリース)の説明をします。 変動検知機能が大幅アップデートされましたwevox で提供していた変動検知機能が、大幅にアップデートされました。 今までは、 誤報が多い 大事な変化を見逃す 処理が非常に重いという問題がありましたが、このすべてが大幅に改善されました。 パルスサーベイの肝は、変動を素早く察知できること! 新しい画面で検知されているあなたのチームのスコア変動は、納得感があるでしょうか? 何となく肌で感じていたことがデータになって現れていたり、全く気づいていない事実に気付かされたり、はたまた誤報だったり、いろいろな可能性があると思います。 いわゆる AI にできるのは、データから見えることをお伝えするところまでであるというのが現状です。完璧に組織課題を検出し、 AI の言うとおりにして

    変動検知機能が大幅アップデートされました 【wevox data blog】 - formal ver.|Wevox(ウィボックス)【組織づくり応援チャンネル】
    syou6162
    syou6162 2020/03/24
    サービスに異常検知の機能を組み込むときの試行錯誤が詳細に書かれててよかった! どういうときに誤検知して、それに対してどう対処されていったか。こういうエントリなかなかないのでめっちゃよい!!!
  • これはマスターしたい。Splunkでカーネル密度推定を使った異常検知(Density Function) - Qiita

    これはマスターしたい。Splunkでカーネル密度推定を使った異常検知(Density Function)機械学習MachineLearningSplunk異常検知カーネル密度推定 追記 (2019/10/25) MLTK5 がリリースされたことにより、こちらの実装がGUIベースで可能になりました。 詳細はこちらをチェックしてください。 Splunk MLTK Smart Outlier Detection Assistant について 目的 Splunk MLTK 4.2 から、新しいアルゴリズムとして Density Function が追加されました。機械学習を使って確率密度ベースによる異常検知ができるというもので、教師なし学習でモデルが作れます。しかも確率密度推定に使われる確率分布として、正規分布・指数分布以外にもカーネル密度推定(Gaussian)が利用できるということで、今までよ

    これはマスターしたい。Splunkでカーネル密度推定を使った異常検知(Density Function) - Qiita
  • PyCon mini Osakaで異常検知システム構築の裏側について発表しました - yasuhisa's blog

    現在仕事で作っている異常検知システムについてPyCon mini Osakaで登壇してきました。異常検知というマイナーなトピックですが、多くの人に聞いてもらえてよかったです。 #pyconjp #pyconosaka 「Pythonを用いた異常検知システム構築の裏側」 吉田康久さんです! たしかはてなの人だったはず。 pic.twitter.com/hRacSgV59D— PyCon mini Osaka (@OsakaPyConMini) 2018年5月19日 はい、はてなMackerelチームの中の人です。 機械学習の人からすると「なんだただの混合ガウス分布か」と思われるかもしれませんが、異常検知のシステムを実際に作ろうとすると考えることが色々あります。今回の発表では ユーザーのどのような要望から異常検知機能を作るに至ったか 異常検知とはそもそも何か、どういった問題設定か 異常検知手

    PyCon mini Osakaで異常検知システム構築の裏側について発表しました - yasuhisa's blog
    syou6162
    syou6162 2018/05/19
    最近仕事でやっていることを発表してきました。異常検知を機能提供するために考えたり試行錯誤したことをまとめています
  • 異常検知ライブラリを作ってみた - Fire Engine

    今回の記事は、前職消防士でゼロからプログラミングを始めた超未熟者の私が、異常検知ライブラリを作った話です。 なぜ作ったか マインド的背景 消防士を辞めてエンジニア転職してから1年、いろんな技術に触れました。TensorFlow、scikit-learn、Dockerなどなど、必死になって使い方を覚えました。しかしだんだん、「これ、コマンド覚えてるだけで自分に何も技術身についてなくない?」という疑問や焦りが湧いてきて、自分は便利なツールを使いこなせるようになりたいんじゃなくて、いつの日かみんなが使って便利なツールを作る側になりたいんだ、ということに気づきました。そのような思いから今回初めてライブラリを作り、公開してみました。 データサイエンス的背景 世の中は時系列データで溢れています。ビジネスの場において、データの何かしらの変化の兆候を捉えて、いち早く意思決定をしたいという場面がよくありま

    異常検知ライブラリを作ってみた - Fire Engine
  • 異常検知本の読書メモ Part 3(疎構造学習による異常検知) - yasuhisa's blog

    前回の復習 前回のChaper 9では「単一の」「時系列データ」に対し、部分空間法を使った変化検出法を見た。 概要はこんな感じであった。 小さいwindow幅でデータを切って、ベクトルデータにする 過去側と現在側の2つに領域に分割 時刻tにおける過去側と現在側の確率分布の相違度を計算するためにKLダイバージェンス 確率分布としてフォンミーゼスフィッシャー分布を採用 小さいwindow幅で切られたデータはノイズが多いので、そのままでは役に立たない ノイズを減らして特徴的なベクトルを得るために特異値分解を使う 多変量の変数間の依存関係の崩れを検知 => 対マルコフネットワーク Chaper 10ではデータの時系列的な関係は無視するが、「多変量の変数間の依存関係の崩れ」を検知することを目標とする。変数間の関係は対マルコフネットワーク(pairwise Markov network)を使って捉える

    異常検知本の読書メモ Part 3(疎構造学習による異常検知) - yasuhisa's blog
  • 変化点検出エンジン

    人間とウェブの未来(旧) 「ウェブの歴史は人類の歴史の繰り返し」という観点から色々勉強しています。2014年までの人間とウェブの未来の旧ブログです。 ※春に行った京都の玄武岩 さて、久々の研究報告です。 NECさんの開発している変化点検出エンジン「ChangeFinder」を、プログラムで実装してみました。 「ChangeFinder」は、これまでの従来の手法による変化点検出にかかる計算コストを大幅に削減した独自のアルゴリズムによって開発されています。 データマイニングの観点から、外れ値と変化点を区別して、変化点を検出することに成功しています。 このように、変化点と外れ値は同一のアルゴリズム内で扱うのは難しいとされてきた中で、計算量を削減した上で同一に扱えるというのは、かなり画期的な手法です。 それでは、実験的にデータを発生させたりすることで、適当な時系列データを作成し、どの程度の精度と計

    変化点検出エンジン
  • 1