トレンドマイクロとヤフーの失敗から考える、アルゴリズム依存の功罪

複雑な事務処理を自動化し、ときに人間の代わりに意思決定を下してくれる情報システムのアルゴリズム。検索エンジンから電車の運行管理まで、今やアルゴリズムのお世話にならない日はない。 だが、そのアルゴリズムがときに思わぬ暴走を起こし、個人や社会に不利益を与えることがある。そんな二つの事例を紹介したい。 フリーソフトを1年半にわたりウイルス判定 一つは、あるPC向けフリーソフトが、トレンドマイクロのウイルス判定アルゴリズムから1年半にわたって危険なウイルスソフトとの「誤判定」を受けたものだ。 事の発端は2012年4月。「いじくるつくーる」「すっきり!! デフラグ」などのフリーソフトを個人で開発・公開していたINASOFT 矢吹拓也氏のメールアドレス宛てに、「ソフトをダウンロードしようとしたら、ダウンロード用URLがトレンドマイクロのセキュリティソフトにブロックされた」とのメールが立て続けに届いた。

[call_me_nots]

ヤフーの件はアルゴリズム依存というより、単に審査が甘いだけ。

[kamei_rio]

ウイルスと同じ挙動とかじゃなくて、ホントに誤検知だったのか。ひどいなこれは

[mtochiki]

折角「役に立つだろう」と公開しているのに，「一部機能に不整合が起きたため」とか，要領を得ない対応で疲弊させないで欲しいものですね。。。　　　トレンドマイクロとヤフーの失敗から考える、アルゴリズム依存の

[pukarix]

アルゴの功罪。常にメンテナンスが行き届くよう見張らなくては本当の意味での利便性には繋がらない。

[t_shimaya]

いろいろひどい。バグがなくったって検出ロジックが完璧でない以上は手動で対策できない(しない)ものは危なっかしくて使えんのでは。影響が大きいものは特に。

[ardarim]

ヤフーの件はアルゴリズム関係無い。広告審査が杜撰だったってだけ。ひどい勘違い記事というか、題材ありきで事例を見繕ったのか？

[tsupo]

トレンドマイクロのウイルス判定アルゴリズムの「誤判定/誤検知」問題 / ヤフーの検索連動広告アルゴリズムの「悪用」問題 / 「SSLサーバ証明書のマーク」を「ウイルススキャンの証明」マークと誤認させるサイト

[takahiro_kihara]

"こうした不利益が発生した際、その被害を最小化し、企業の信用をつなぎとめるのは、やはり「人」の対応だ"

[te2u]

「アルゴリズム依存」「アルゴリズムの被害」など、ピンとこない表現が多い。

[hiroomi]

"検知アルゴリズムが複雑になりすぎた結果、手動で誤検知を修正・回避する余地が小さくなっていた可能性がある。こうなると、いくら「人」が介在しても被害は防ぎにくくなる。”

[minonet]

トレンドマイクロとヤフーの失敗から考える、アルゴリズム依存の功罪（記者の眼） 　複雑な事務処理を自動化し、ときに人間の代わりに意思決定を下してくれる、情報システムのアルゴリズム。検索エンジンから電車の